A FTC investiga OpenAI sobre vazamento de dados e imprecisão do ChatGPT

A Comissão Federal de Comércio abriu uma ampla investigação sobre o OpenAI, investigando se o criador do popular bot ChatGPT entrou em conflito com as leis de proteção ao consumidor ao colocar em risco a reputação e os dados pessoais.

A agência enviou esta semana à empresa de São Francisco um pedido de 20 páginas de registros sobre como ela aborda os riscos relacionados aos seus modelos de IA, de acordo com um documento revisado pelo The Washington Post. A salva representa a ameaça regulatória mais potente até agora aos negócios da OpenAI nos Estados Unidos, à medida que a empresa inicia uma ofensiva global de charme para moldar o futuro da política de inteligência artificial.

Os analistas consideram o ChatGPT da OpenAI o aplicativo de consumo que mais cresce na história, e seu sucesso inicial desencadeou uma corrida armamentista entre as empresas do Vale do Silício para lançar chatbots concorrentes. O presidente-executivo da empresa, Sam Altman, emergiu como uma figura influente no debate sobre a regulamentação da IA, testemunhando no Capitólio, jantando com legisladores e reunindo-se com o presidente Biden e o vice-presidente Harris.

A Big Tech estava agindo com cautela em relação à IA. Então veio o ChatGPT.

Mas agora a empresa enfrenta um novo teste em Washington, onde a FTC emitiu vários avisos de que as leis existentes de protecção do consumidor se aplicam à IA, mesmo enquanto a administração e o Congresso lutam para definir novos regulamentos. O líder da maioria no Senado, Charles E. Schumer (DN.Y.), previu que faltarão meses para uma nova legislação sobre IA.

As exigências da FTC à OpenAI são a primeira indicação de como pretende fazer cumprir esses avisos. Se a FTC descobrir que uma empresa viola as leis de protecção do consumidor, pode aplicar multas ou submeter uma empresa a um decreto de consentimento, que pode ditar a forma como a empresa trata os dados. A FTC emergiu como o principal policial do governo federal no Vale do Silício, impondo pesadas multas contra Meta, Amazon e Twitter por supostas violações das leis de proteção ao consumidor.

A FTC pediu à OpenAI que fornecesse descrições detalhadas de todas as reclamações que recebeu de seus produtos fazendo declarações “falsas, enganosas, depreciativas ou prejudiciais” sobre as pessoas. A FTC está investigando se a empresa se envolveu em práticas injustas ou enganosas que resultaram em “danos à reputação” dos consumidores, segundo o documento.

A FTC também pediu à empresa que fornecesse registros relacionados a um incidente de segurança que a empresa divulgou em março, quando um bug em seus sistemas permitiu que alguns usuários vissem informações relacionadas a pagamentos, bem como alguns dados do histórico de bate-papo de outros usuários. A FTC está investigando se as práticas de segurança de dados da empresa violam as leis de proteção ao consumidor. A OpenAI disse em uma postagem no blog que o número de usuários cujos dados foram revelados a outra pessoa era “extremamente baixo”.

A FTC se recusou a comentar. O CEO da OpenAI, Sam Altman, disse em um tweet na noite de quinta-feira que a empresa “é claro” trabalhará com a agência.

“É muito decepcionante ver o pedido da FTC começar com um vazamento e não ajudar a construir confiança”, ele tuitou. “Dito isto, é muito importante para nós que [nossa] tecnologia seja segura e pró-consumidor, e estamos confiantes de que cumprimos a lei.”

Altman também disse que a empresa protege a privacidade do usuário e projeta seus sistemas “para aprender sobre o mundo, não sobre indivíduos”.

A notícia da investigação foi divulgada pouco antes de a presidente da FTC, Lina Khan, enfrentar uma audiência combativa na quinta-feira perante o Comitê Judiciário da Câmara, onde legisladores republicanos analisaram seu histórico de aplicação e a acusaram de má administração da agência. Os ambiciosos planos de Khan para controlar o Vale do Silício sofreram perdas importantes nos tribunais. Na terça-feira, um juiz federal rejeitou a tentativa da FTC de bloquear o acordo de US$ 69 bilhões da Microsoft para comprar a empresa de videogames Activision.

Durante a audiência, o deputado Dan Bishop (RN.C.) perguntou a Khan qual autoridade legal habilitava a FTC a fazer tais exigências a uma empresa como a OpenAI, como parte de uma linha mais ampla de investigação sobre se a FTC de Khan está ultrapassando seus poderes. Ele observou que a difamação e a difamação são normalmente processadas de acordo com as leis estaduais, uma referência às perguntas da FTC à OpenAI sobre o menosprezo das pessoas.