Uma equipe de pesquisa divulgou um artigo na quinta-feira mostrando que a tecnologia, que pode criar notícias realistas usando apenas um título, evoluirá rapidamente nos próximos anos. A OpenAI, apoiada pelo fundador do LinkedIn, Reid Hoffman, foi fundada para explorar como as ferramentas de inteligência artificial podem ser mais seguras. Ele descobriu, entre outras coisas, que os computadores – já usados para escrever breves notícias de comunicados à imprensa – podiam ser treinados para ler e escrever textos maiores com mais facilidade do que pensavam.
Segundo os pesquisadores, colegas cientistas devem começar a discutir os possíveis efeitos negativos da tecnologia antes de fazer qualquer avanço tecnológico, assim como os físicos nucleares e geneticistas que pensam em como seu trabalho poderia ser usado antes de publicá-lo. .
Os chamados modelos de idiomas que permitem que os computadores leiam e escrevam geralmente são “treinados” para tarefas específicas, como traduções de idiomas, respostas a perguntas ou resumo de texto. Esse treinamento geralmente é feito sob supervisão humana e conjuntos de dados especiais.
O documento da OpenAI descobriu que um modelo de linguagem de propósito geral, capaz de muitas dessas tarefas especializadas, pode ser treinado sem muita intervenção humana.
O modelo precisa de mais alguns anos para poder trabalhar de forma confiável e requer computação em nuvem dispendiosa para construção. Mas esse custo pode ser reduzido rapidamente.
Em uma ação controversa, a OpenAI descreve seu trabalho no artigo, mas não libera o modelo em si, porque teme que ele possa ser usado incorretamente.
“Ainda não estamos em posição de dizer que isso é um risco”, disse Dario Amodei, diretor de pesquisa da OpenAI. “Tentamos informar as pessoas sobre esses problemas e iniciar uma discussão”.
