Grandes nomes da tecnologia pedem suspensão das atividades do Chat GPT-4 por 6 meses

Mais de 1.100 signatários, incluindo Elon Musk, Steve Wozniak e Tristan Harris, do Center for Humane Technology, assinaram uma carta aberta que foi postada online na noite de terça-feira que pede que “todos os laboratórios de IA parem imediatamente por pelo menos 6 meses o treinamento de sistemas de IA mais poderosos que o GPT-4.”

A carta diz:

Os sistemas contemporâneos de IA estão se tornando competitivos em tarefas gerais,[3] e devemos nos perguntar: devemos deixar que as máquinas inundem nossos canais de informação com propaganda e falsidade? Devemos automatizar todos os trabalhos, incluindo os satisfatórios? Deveríamos desenvolver mentes não-humanas que eventualmente nos superassem em número, fossem mais espertas, obsoletas e nos substituíssem? Devemos arriscar perder o controle de nossa civilização? Tais decisões não devem ser delegadas a líderes tecnológicos não eleitos. Sistemas poderosos de IA devem ser desenvolvidos apenas quando estivermos confiantes de que seus efeitos serão positivos e seus riscos serão administráveis.

A carta argumenta que existe um “nível de planejamento e gerenciamento” que “não está acontecendo” e que, em vez disso, nos últimos meses, “laboratórios de IA” sem nome foram “presos em uma corrida fora de controle para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém – nem mesmo seus criadores – pode entender, prever ou controlar de forma confiável.”

As assinaturas da carta, algumas das quais são especialistas em IA, dizem que a pausa que pedem deve ser “pública e verificável e incluir todos os principais atores”. Se essa pausa “não puder ser decretada rapidamente, os governos devem intervir e instituir uma moratória”, diz a carta.

Certamente, a carta é interessante tanto por causa das pessoas que assinaram – o que inclui alguns engenheiros da Meta e do Google, o fundador e CEO da Stability AI Emad Mostaque, e pessoas que não são da área de tecnologia, incluindo um eletricista autodenominado e um esteticista – quanto aqueles quem não tem. Ninguém da OpenAI, a empresa por trás do grande modelo de linguagem GPT-4, assinou esta carta, por exemplo. Nem ninguém da Anthropic, cuja equipe saiu da OpenAI para construir um chatbot de IA “mais seguro”.