Vencedores do Prêmio Turing fazem alerta sobre IAs sem sistemas de segurança
Na avaliação de Andrew Barto e Richard Sutton, a indústria de IA não tem utilizado práticas de engenharia para mitigar os riscos da tecnologia. A prioridade, por hora, tem sido a velocidade para lançar seus sistemas
Ramana Rech
Redatora
Publicado em 5 de março de 2025 às 14h03.
Dois cientistas que receberam o Prêmio Turing deste ano por suas contribuições com a técnica de computação aprendizado por reforço alertaram a respeito do perigo de entregar ao público modelos de inteligência artificial não seguros. Eles se disseram preocupados com a pressa de companhias de IA em lançar os sistemas antes de testá-los.
Andrew Barto é professor de Informação e Ciências da Computação da Universidade de Massachusetts e Richard Sutton é professor de Ciência da Computação da Universidade de Alberta.
Com frequência, o Prêmio Turing é chamado de Prêmio Nobel da Computação. A gratificação recebeu seu nome em homenagem ao matemático britânico Alan Turing, que forneceu os fundamentos matemáticos da computação, e recompensa em US$ 1 milhão seus vencedores.
A dupla desenvolveu o aprendizado por reforço em 1980 inspirada por como as pessoas aprendem. A técnica de aprendizado por reforço consiste em recompensar sistemas de IA por se comportarem da forma desejada.
O trabalho desenvolvido por Barto e Sutton hoje é usado em companhias do setor de IA. O Google DeepMind, por exemplo, utilizou a técnica para desenvolver o AlphaGo, um sistema de IA que supera os seres humanos no jogo Go.
No entanto, Barto e Sutton dizem que empresas têm lançado IAs suscetíveis a erros enquanto levantam elevados valores de financiamento e investem em ampla infraestrutura de data centers.“Práticas de engenharia evoluíram para tentar mitigar consequências negativas da tecnologia, e eu não vejo isso sendo praticado pelas companhias que estão desenvolvendo”, disse Barto.
Corte na ciência e AGI
Os dois defenderam que é uma contradição do presidente dos Estados Unidos, Donald Trump, colocar a IA prioridade nacional e, ao mesmo tempo, cortar investimentos em ciência.
Isso pode colocar a dominância dos Estados Unidos no desenvolvimento de ciência em risco, diz Barto. Ele argumenta que a falta de investimentos pode fazer com que oportunidades que permitam trabalhos como o que recebeu o Prêmio Turing desapareçam. O resultado pode ser falta de liberdade para explorar conceitos abstratos e ainda não testados.
Richrd Sutton, por sua vez, criticou o hype em torno da inteligência artificial geral (AGI), que em teoria ultrapassa as pessoas em capacidade cognitiva. De acordo com alguns executivos da indústria de IA, como Sam Altman (CEO da OpenAI), sistemas de AGI podem ser lançados ainda neste ano. Sutton avalia que IAs mais inteligentes do que pessoas se tornarão uma realidade eventualmente por meio de um melhor entendimento de como a mente humana funciona.
Os principais laboratórios de pesquisa em IA
2 /7(O Google AI, com sede em Mountain View, Califórnia, criou o AlphaGo, o primeiro programa de IA a derrotar um campeão mundial de Go, revolucionando a pesquisa em aprendizado profundo.)
3 /7Localizado em Londres, Reino Unido, o DeepMind Lab é famoso pelo desenvolvimento do AlphaFold, um programa de IA que previu estruturas de proteínas com precisão sem precedentes, impactando a biologia molecular.(Localizado em Londres, Reino Unido, o DeepMind Lab é famoso pelo desenvolvimento do AlphaFold, um programa de IA que previu estruturas de proteínas com precisão sem precedentes, impactando a biologia molecular.)
4 /7(O IBM Watson Research Center, em Yorktown Heights, Nova York, desenvolveu a IA Watson, que venceu campeões humanos no programa de TV Jeopardy!, demonstrando avanços significativos em processamento de linguagem natural.)
+ 3