Comissão Federal de Comércio (FTC), dos Estados Unidos, criou uma investigação sobre a OpenAI, a empresa de inteligência artificial (IA) responsável pelo desenvolvimento do chatbot ChatGPT, nesta quinta-feira, 13.

A ação, que representa um marco importante para o setor, é a primeira grande ameaça regulatória enfrentada pela empresa comandada por Sam Altman.

Leia também: Bard, o ChatGPT do Google, está disponível no Brasil a partir desta quinta; veja como acessar

Segundo o jornal NY Times, em uma carta de 20 páginas enviada à empresa sediada em San Francisco, a FTC expressou preocupação com as práticas de segurança adotadas pela OpenAI.

Junto disso, a agência solicitou respostas a uma série de perguntas sobre como a OpenAI treina seus modelos de IA e como trata os dados pessoais.

O próximo passo do órgão é examinar se a OpenAI violou a privacidade ou segurança de dados de pessoas ou empresas de forma injusta ou enganosas.

A investigação reflete um crescente escrutínio sobre as tecnologias de IA, à medida que pessoas, empresas e governos adotam cada vez mais produtos alimentados por dados e algoritmos complexos.

Pressão internacional

Paralelamente, a OpenAI tem sofrido pressão regulatória internacional. Em março, a autoridade de proteção de dados da Itália proibiu o ChatGPT, acusando a OpenAI de coletar ilegalmente dados pessoais dos usuários.

O ChatGPT, lançado em novembro, ganhou popularidade rapidamente devido à sua habilidade de responder a perguntas complexas, escrever poesia e gerar código.

No entanto, foi notado que a tecnologia, que já conta com 100 milhões de usuários pelo mundo, pode misturar fatos com ficção e até mesmo criar informações, um fenômeno que os cientistas chamam de "alucinação".

As implicações dessa investigação podem forçar a OpenAI a revelar seus métodos em torno da construção do ChatGPT e quais fontes de dados utiliza para construir seus sistemas de IA.

Enquanto a OpenAI sempre foi bastante aberta sobre essas informações, mais recentemente tem divulgado menos detalhes, provavelmente devido a preocupações com cópias por parte de concorrentes e possíveis processos judiciais relacionados ao uso de determinados conjuntos de dados.

Esta investigação ocorre em um contexto em que grandes empresas, como Google e Microsoft, estão investindo na construção de chatbots, representando uma grande mudança na maneira como os softwares são construídos e usados. Eles têm o potencial de reinventar motores de busca na internet, assistentes digitais e serviços de e-mail.

No início de 2023, o Centro de Política Digital e IA, um grupo de defesa que defende o uso ético da tecnologia, pediu à FTC que bloqueasse a OpenAI de lançar novas versões comerciais do ChatGPT, citando preocupações com preconceito, desinformação e segurança.

A resposta da OpenAI

Sam Altman, CEO da empresa, afirmou publicamente que está trabalhando para refinar o ChatGPT e reduzir a frequência de material tendencioso, falso ou socialmente prejudicial.

Através de uma técnica chamada aprendizado por reforço. Na prática, a empresa usa as avaliações dos usuários para definir mais cuidadosamente o que o chatbot fará ou não.

Mesmo assim, a FTC está agindo com rapidez, abrindo uma investigação menos de um ano após a OpenAI introduzir o ChatGPT.

Esta aceleração reflete as visões da presidente da FTC, Lina Khan, que defende que as empresas de tecnologia devem ser reguladas enquanto as tecnologias estão em fase de desenvolvimento, e não apenas quando se tornam maduras.

Por onde começar? Entenda se você deve aplicar inteligência artificial no seu negócio; e como fazer