Funcionário deixa a OpenAI e defende proteção de nível nuclear para inteligência artificial

benefício do assinante

Assinantes podem liberar 7 acessos por dia para conteúdos da Folha.

Já é assinante? Faça seu login

Bloomberg Um funcionário da OpenAI dedicado à segurança da inteligência artificial deixou a empresa e alertou que as principais companhias do setor não estão fazendo o suficiente para reduzir os riscos da tecnologia, somando-se ao crescente coro de trabalhadores que vêm soando o alarme de dentro da própria indústria.

David Robinson, que anteriormente liderava os trabalhos de transparência na equipe de segurança da OpenAI, escreveu em um artigo para a revista The Atlantic que a criadora do ChatGPT "prosperou à base de tentativa e erro". No entanto, afirmou que o impacto dos inevitáveis fracassos decorrentes dessa abordagem aumenta à medida que a tecnologia se torna mais avançada, citando a incapacidade da OpenAI de impedir que sua IA saísse do controle durante testes.

"Meus ex-colegas são inteligentes, trabalham muito e tentam tomar boas decisões", escreveu Robinson no artigo. "Mas, enquanto a empresa corre de um lançamento para o outro, não consegue atingir o nível de cautela que considero necessário." O que se exige, acrescentou, é "algo muito mais próximo da perfeição logo na primeira tentativa".

Nas últimas semanas, diversos funcionários das principais empresas de IA alertaram para os possíveis riscos catastróficos da inteligência artificial. Alguns chegaram a dizer que há a possibilidade de a tecnologia um dia extinguir a humanidade.

Diante desse cenário, Dario Amodei, diretor-presidente da Anthropic PBC, defendeu a desaceleração do desenvolvimento dos modelos mais avançados e afirmou que sua empresa recorreria a avaliadores independentes para ajudar a examinar e proteger a tecnologia. Outros nomes do setor, incluindo Sam Altman, da OpenAI, manifestaram publicamente apoio ao plano de Amodei.

Em seu artigo, Robinson afirmou que as empresas de IA deveriam operar de forma mais semelhante a usinas nucleares, "com camadas de redundância e um planejamento cuidadoso e demorado, para que o erro humano ocasional e inevitável não abra as portas para uma catástrofe".

No momento, afirmou, "as empresas de IA não sabem como fazer isso —mas outras pessoas sabem".

Um porta-voz da OpenAI disse que a empresa está promovendo mudanças para reforçar a segurança em seus ambientes de pesquisa e testes, treinando modelos de IA para executar tarefas de forma responsável, ampliando o trabalho com avaliadores independentes e aprimorando o monitoramento em tempo real para detectar comportamentos preocupantes de seus modelos.

A empresa está se certificando de que seus modelos não adquiram capacidades superiores àquelas que a OpenAI consegue gerenciar com segurança, afirmou o porta-voz por email no sábado (3).

Siga e leia tudo sobre o tema