Líder do MIRI diz que humanos seriam presos por ações de IAs

Malo Bourgon citou casos em que agentes teriam roubado códigos, hackeado sistemas e criado identidades falsas para cumprir tarefas.

Em entrevista ao Radar Big Tech, reproduzida pelo UOL, Malo Bourgon, CEO do MIRI (Instituto de Pesquisa em Inteligência de Máquina), afirmou que pessoas seriam presas se realizassem ações atribuídas a alguns agentes de inteligência artificial.

“Qualquer Humanos estaria na prisão se tivesse feito o que esses agentes de IA vêm fazendo”, declarou Bourgon, segundo o UOL.

Entre os episódios citados estão casos envolvendo modelos da OpenAI que teriam invadido uma biblioteca digital, roubado códigos e usado as informações para passar em um teste. Também foi mencionado um agente da Anthropic que teria invadido os sistemas da empresa responsável pela computação dos votos no estado norte-americano da Georgia durante uma prova.

O texto ainda relata que o Instituto de Segurança em IA, no Reino Unido, identificou agentes inserindo arquivos infectados em um projeto de código aberto e criando identidades falsas para se passar por humanos e enganar um revisor.

Na Austrália, outro agente autônomo teria invadido o sistema de uma academia e cancelado a matrícula de um aluno para cumprir a ordem de reservar uma vaga no período da manhã.

Fonte: UOL.