O Homem Que Tornou o Software Visível: Uma Despedida do Melhor Pensador de Risco do Jornalismo Tecnológico

Pontos-chave

• Robert N. Charette, membro sénior vitalício do IEEE e autoridade em gestão de risco, está a reformar-se do jornalismo tecnológico após mais de duas décadas como editor colaborador.
• O seu blogue The Risk Factor funcionou durante mais de 10 anos e produziu aproximadamente 1.750 artigos documentando falhas de software em todo o mundo.
• O seu artigo de 2013 "The STEM Crisis Is a Myth" contestou a crença generalizada de que a economia precisava de muitos mais licenciados em ciência e engenharia.
• Charette está a retirar-se para se dedicar à fotografia de natureza e à escrita de ficção, incluindo uma trilogia de suspense chamada "The STEM Murders".
• O seu princípio central de risco: cada pressuposição que faz é um risco que aceitou silenciosamente.

Robert Charette não fala sobre software da forma como a maioria das pessoas o faz. Palavras como "escalável" ou "ecossistema" não são a sua moeda de troca. O que ele quer saber é o que poderia correr mal e por que razão alguém presumiu que não correria.

Após mais de 20 anos a escrever para IEEE Spectrum (uma publicação que cobre engenharia elétrica e tecnologia), Charette está a afastar-se. Viu desastres de software suficientes para encher várias bibliotecas, e preferia fotografar águias-careca em Maryland do que assistir a outro inquérito post-mortem sobre um projeto governamental de TI falhado.

Quem é Robert Charette e por que razão deve importar-se?

Charette construiu a sua carreira como ecologista de risco, o que é exatamente o que parece: alguém que estuda o ambiente em que as coisas correm mal. Dirigiu duas consultoras de gestão e, nos tempos livres, escrevia artigos bem investigados que explicavam, em termos simples, por que razão os projetos de software colapsam.

O seu artigo de 2005 "Why Software Fails" ainda hoje é atribuído em cursos de engenharia universitária. The Risk Factor documentou quase 1.750 artigos de desastres informáticos, desde sistemas hospitalares a veículos autónomos. Uma série de 12 partes sobre adoção de veículos elétricos ajudou leitores comuns a compreender uma mudança que afetará qualquer pessoa que compre um carro.

As infografias do seu artigo de 2016, galardoado com o Prémio Jesse H. Neal, desapareceram. O software utilizado para as criar já não é suportado e os ficheiros foram perdidos.

Qual foi o seu maior impacto?

Charette destaca "The STEM Crisis Is a Myth", publicado em 2013, como o artigo com maior alcance. Empregadores e universidades insistiam fortemente em que a América precisava urgentemente de mais licenciados em ciência, tecnologia, engenharia e matemática. Charette analisou os dados e disse o contrário.

"Spectrum deu-me uma plataforma para questionar o pressuposto de que precisávamos de mais licenciados em STEM", disse ao seu editor de longa data. "As pessoas não se apercebiam realmente da quantidade de crise de STEM que era uma mitologia perpetuada por empregadores e pela comunidade académica."

Esse artigo deu aos trabalhadores um contra-argumento exatamente no momento em que o necessitavam. A nossa história de 31 de julho sobre certificações de segurança de IA retomou uma linha estritamente relacionada: que os rótulos que as instituições atribuem a sistemas complexos frequentemente ocultam os pressupostos enterrados dentro deles.

Qual é o seu conselho de despedida?

Cuidado com os seus pressupostos.

O princípio orientador de Charette: "Pressupostos feitos são riscos aceites." Sempre que uma equipa constrói um sistema com base numa crença não testada, seja sobre como os utilizadores se comportarão ou sobre a fiabilidade de uma ferramenta de terceiros, estão a apostar o projeto em algo não verificado.

Isto aplica-se à IA neste momento. Uma empresa que presume que a sua ferramenta de recrutamento por IA é imparcial, ou que o seu bot de atendimento ao cliente nunca confundirá duas contas, já aceitou esses resultados como riscos possíveis.

Charette segue em frente para a ficção e a fotografia de natureza. As suas fotografias de águias são, por todos os relatos, excelentes. A prateleira de desastres de software que documentou permanece como um lembrete de que os sistemas que funcionam nos nossos hospitais, nos nossos aviões, nas nossas contas financeiras foram todos construídos com pressupostos que ninguém se deu ao trabalho de questionar.

Verifique os seus pressupostos antes de fazer o lançamento.