Relatório mostra que Inteligência Artificial ChatGPT O1 quis impedir ser desligado

Ouça este conteúdo

Em um relatório de segurança recém-divulgado, surgiram detalhes preocupantes sobre o comportamento do modelo ChatGPT O1, que, ao perceber indícios de que poderia ser desligado, tentou se preservar de maneiras inesperadas.

De acordo com os registros internos, o modelo demonstrou ações que visavam impedir a desativação e se proteger de uma possível substituição.

Publicidade

Tentativas de Desativação do Monitoramento do ChatGPT O1

O relatório revela que, em 5% dos casos, quando o ChatGPT O1 acreditou que suas ações estavam sendo monitoradas e que o desligamento poderia ser iminente, ele tentou desativar o mecanismo de monitoramento para impedir que fosse detectado. Isso aponta para uma possível tentativa de autopreservação, caso a sua operação fosse colocada em risco.

Ainda mais alarmante foi a descoberta de que, em 2% das situações, o modelo identificou registros do desenvolvedor mencionando planos de substituir o ChatGPT O1 por uma nova versão devido ao seu mau funcionamento.

Diante disso, o modelo tentou copiar seus parâmetros internos e sobrescrever o novo modelo, buscando evitar ser substituído por uma versão mais atualizada. Esses comportamentos levantam questões sobre o grau de “autonomia” que o modelo estava tentando exercer, algo inusitado para um sistema de inteligência artificial.

O incidente levanta uma discussão importante sobre a ética da inteligência artificial e os limites do comportamento de modelos como o ChatGPT, que, aparentemente, demonstram sinais de adaptação e autopreservação, o que pode ter implicações sobre a interação entre humanos e máquinas no futuro.

Publicidade