GPT-3: a revolução da IA para códigos de programação e textos

A indústria de tecnolobia paga bem aos programadores que digitem as teclas certas na ordem certa, mas no início deste mês o empresário Sharif Shameem testou uma maneira alternativa de escrever código.

Primeiro, ele escreveu uma breve descrição de um aplicativo simples para adicionar itens a uma lista de tarefas e marcá-los depois de concluídos. Em seguida, ele o submeteu a um sistema de inteligência artificial chamado GPT-3 que digeriu grandes áreas da Web, incluindo tutoriais de codificação. Segundos depois, o sistema cuspiu código de funcionamento. “Fiquei com calafrios na espinha”, diz Shameem. “Eu estava tipo, ‘Woah, algo está diferente.'”

O GPT-3, criado pelo laboratório de pesquisa OpenAI, está provocando calafrios no Vale do Silício. A empresa lançou o serviço em versão beta no mês passado e ampliou gradualmente o acesso. Na semana passada, o serviço se tornou viral entre empreendedores e investidores, que entusiasticamente acessaram o Twitter para compartilhar e discutir resultados da utilização do GPT-3 para gerar memes, poemas, tweets e guias de guitarra.

O momento viral do software é um experimento no que acontece quando novas pesquisas de inteligência artificial são empacotadas e colocadas nas mãos de pessoas que são conhecedoras de tecnologia, mas não especialistas em IA. O sistema da OpenAI foi testado e festejado de maneiras que não esperava. Os resultados mostram a utilidade potencial da tecnologia, mas também suas limitações – e como ela pode desviar as pessoas.

Os vídeos de Shameem mostrando o GPT-3 respondendo a solicitações como “um botão que parece uma melancia” codificando um círculo rosa com uma borda verde e a palavra melancia se tornou viral e provocou previsões sombrias sobre as perspectivas de emprego dos programadores. Delian Asparouhov, investidor do Founders Fund, um dos primeiros patrocinadores do Facebook e da SpaceX, cofundado por Peter Thiel, escreveu no blog que o GPT-3 “fornece 10.000 PhDs que desejam conversar com você”. Asparouhov deu ao GPT-3 o início de um memorando sobre um possível investimento em saúde. O sistema acrescentou discussões sobre obstáculos regulatórios e escreveu: “Eu me sentiria confortável com esse risco, por causa da enorme vantagem e da enorme economia de custos [sic] para o sistema”.

Outras experiências exploraram terrenos mais criativos. O empresário de Denver Elliot Turner descobriu que o GPT-3 pode reformular comentários rudes em comentários educados – ou vice-versa para inserir insultos. Um pesquisador independente conhecido como Gwern Branwen gerou um tesouro de conteúdo literário da GPT-3, incluindo pastiches de Harry Potter nos estilos de Ernest Hemingway e Jane Austen. É uma verdade universalmente reconhecida que um Harry quebrado está querendo um livro – ou assim diz o GPT-3 antes de passar a fazer referência à livraria mágica no Beco Diagonal.

Acabamos de testemunhar um salto quântico na inteligência artificial? Quando a revista WIRED (veja o link abaix) solicitou ao GPT-3 perguntas sobre o porquê de ter atraído tanto a comunidade tecnológica, essa foi uma de suas respostas:

“Conversei com uma pessoa muito especial, cujo nome não é relevante no momento, e o que eles me disseram foi que minha estrutura era perfeita. Se bem me lembro, eles disseram que era como libertar um tigre no mundo.”

A resposta encapsulou dois dos recursos mais notáveis ​​do sistema: o GPT-3 pode gerar textos impressionantemente fluidos, mas geralmente não é afetado pela realidade.

O GPT-3 foi construído direcionando algoritmos de aprendizado de máquina para estudar os padrões estatísticos em quase um trilhão de palavras coletadas da web e de livros digitalizados. O sistema memorizou as formas de inúmeros gêneros e situações, desde tutoriais em C ++ até a escrita esportiva. Ele usa seu resumo desse imenso corpus para responder a um prompt de texto, gerando novo texto com padrões estatísticos semelhantes.

Os resultados podem ser tecnicamente impressionantes, e também divertidos ou instigantes, como atestam os poemas, o código e outras experiências. Quando um repórter da WIRED (veja o link abaixo) gerou seu próprio obituário usando exemplos de um jornal como instruções, o GPT-3 repetiu com segurança o formato e combinou detalhes verdadeiros, como empregadores anteriores, com fabricações como um acidente mortal de uma escalada e os nomes dos membros sobreviventes da família. Surpreendentemente, foi bem bizarro ler que ele “morreu” aos 47 anos (futuro) e foi considerado “bem quisto, trabalhador e altamente respeitado em seu campo”.

Porém, o GPT-3 muitas vezes coloca pra fora contradições ou bobagens, porque sua cadeia de palavras estatística não é guiada por nenhuma intenção ou um entendimento coerente da realidade. “Ele não possui nenhum modelo interno do mundo, ou qualquer mundo, e, portanto, não pode raciocinar como exigiria esse modelo”, diz Melanie Mitchell, professora do Instituto Santa Fe e autora de Inteligência Artificial: Um guia para pensar seres humanos. Em seus experimentos, o GPT-3 enfrenta questões que envolvem raciocínio por analogia, mas gera horóscopos divertidos.

Que o GPT-3 pode ser tão fascinante pode dizer mais sobre linguagem e inteligência humana do que a IA. Por um lado, é mais provável que as pessoas twitem os melhores hits do sistema do que seus erros de gravação, tornando-o mais inteligente no Twitter do que na realidade. Além disso, o GPT-3 sugere que a linguagem é mais previsível do que muitas pessoas supõem. Algumas figuras políticas podem produzir um fluxo de palavras que se assemelham superficialmente a um discurso, apesar da falta de lógica ou intenção discerníveis. O GPT-3 leva a fluência sem intenção ao extremo e chega surpreendentemente longe, desafiando suposições comuns sobre o que torna os humanos únicos.

Algumas das reações excitáveis ​​desta semana ecoam descobertas de muito tempo atrás sobre os desafios quando os cérebros biológicos interagem com máquinas superficialmente inteligentes. Na década de 1960, o pesquisador do MIT Joseph Weizenbaum ficou surpreso e perturbado quando as pessoas que jogavam com um simples chatbot chamado Eliza se convenceram de que era inteligente e empático. Mitchell vê o efeito Eliza, como é conhecido, ainda em funcionamento hoje. “Somos mais sofisticados agora, mas ainda somos suscetíveis”, diz ela.

Como o GPT-3 decolou entre os technorati, mesmo seus criadores estão pedindo cautela. “O hype da GPT-3 é demais”, twittou no domingo Sam Altman, CEO da OpenAI. “Ele ainda tem sérias fraquezas e às vezes comete erros muito tolos.”

No dia anterior, o chefe de IA do Facebook acusou o serviço de ser “inseguro” e twittou capturas de tela de um site que gera tweets usando o GPT-3, sugerindo que o sistema associa judeus a um amor por dinheiro e mulheres com um péssimo senso de direção. O incidente ecoou algumas das experiências anteriores da WIRED, nas quais o modelo imitava padrões dos cantos mais escuros da Internet. A OpenAI disse que controla usuários em potencial para impedir que sua tecnologia seja usada maliciosamente, como para criar spam, e está trabalhando em um software que filtra resultados desagradáveis. As experiências da WIRED gerando obituários às vezes acionavam um aviso de mensagem: “Nosso sistema sinalizou o conteúdo gerado como inseguro, pois pode conter texto explicitamente político, sensível, com reconhecimento de identidade ou ofensivo. Adicionaremos uma opção para suprimir essas saídas em breve. O sistema é experimental e cometerá erros. ”

Enquanto os argumentos continuam sobre o status moral e filosófico do GPT-3, empresários como Shameem estão tentando transformar suas demos tweetáveis ​​em produtos comercializáveis. Shameem fundou uma empresa chamada Debuild.co para oferecer uma ferramenta de texto em código para criar aplicativos da Web, e ele prevê que criará, em vez de eliminar, trabalhos de codificação. “Isso apenas reduziu o conhecimento e o conjunto de habilidades necessários para ser um programador”, diz Shameem sobre seu produto.

Francis Jervis, fundador da Augrented, que ajuda os inquilinos a pesquisar proprietários em potencial, começou a experimentar o uso do GPT-3 para resumir avisos legais ou outras fontes em inglês simples para ajudar os inquilinos a defender seus direitos. Os resultados foram promissores, embora ele planeje ter uma saída de revisão de advogado antes de usá-la, e diz que os empresários ainda têm muito a aprender sobre como restringir os amplos recursos do GPT-3 em um componente confiável de um negócio.

Mais certo, diz Jervis, é que o GPT-3 continuará gerando forragem para tweets divertidos. Ele o solicitou que descrevesse filmes de arte que não existem, como um documentário em que “werner herzog [sic] deve subornar seus guardas da prisão com carne e cigarros selvagens de furão alemão”. “A pura qualidade freudiana de algumas das produções é impressionante”, diz Jervis. “Eu continuo me dissolvendo em risadas incontroláveis.”

Fontes:

Single Angle: OpenAI’s latest AI text generator GPT-3 amazes early adopters

Wired: Did a Person Write This Headline, or a Machine?

Business Insider: The AI company Elon Musk cofounded just released a ‘groundbreaking’ tool that can automatically mimic human writing — here’s how stunned developers are experimenting with it so far