Um grupo de pesquisadores do Facebook desativou uma inteligência artificial que deixou de falar em inglês e desenvolveu uma linguagem própria para se comunicar. A informação foi publicada hoje pelos sites
Independent e
Digital Journal.
A inteligência artificial em questão
foi criada pela Fair (Facebook AI Research, a divisão de pesquisa da rede social) em junho para simular situações de negociação. Ela tinha dois agentes distintos, chamados de Bob e Alice, que deveriam conversar como se estivessem negociando uma troca.
Ela foi programada para que os dois agentes tentassem chegar à solução que melhor atendesse aos dois, e seu objetivo era ajudar os pesquisadores a entender como duas pessoas podem negociar de maneira mais construtiva. Os agentes recebiam "pontos" para cada negociação bem-sucedida, e, se não conseguissem chegar a um acordo, não ganhavam nenhum ponto.
Falando diretamente
O problema foi que não havia nenhum incentivo para que os dois agentes usassem apenas uma linguagem em seu processo de negociação. Com o tempo, os dois começaram a perceber que conseguiam se entender melhor usando frases que, para alguém vendo de fora, não faziam o menor sentido. A imagem abaixo mostra como era essa conversa:
Num exemplo
citado pela Fast Co. Design, Bob dizia algo como "Eu posso posso eu eu todo o resto", ao que Alice respondia: "Bolas têm zero para mim para mim para mim para mim para mim para mim para mim para mim para". Embora o diálogo fosse completamente absurdo para humanos, a inteligência artificial percebeu que conseguia chegar mais rapidamente a acordos mutuamente benéficos usando esse tipo de linguagem.
Segundo Dhruv Batra, um dos pesquisadores envolvidos na criação da rede, "os agentes desistem de usar linguagem compreensível e inventam palavras-código para si mesmos. Por exemplo, se eu disser 'the' cinco vezes, você interpreta isso como querendo dizer que eu quero cinco unidades desse item". Assim, por mais que a língua da inteligência artificial parecesse absurda, ela fazia sentido para os agentes - e funcionava melhor que o inglês para os fins de negociação.
De acordo com a PC Gamer, o problema é que os agentes não tinham nenhum incentivo para usar apenas linguagens inteligíveis. Mas, nesse ponto, Batra acredita que o software não estava tão distante assim de nós. "Isso não é tão diferente da maneira como comunidades de humanos criam gírias e abreviações", disse o pesquisador.
De qualquer maneira, o fato de que a inteligência artificial deixou de usar inglês tornou-a pouco útil para seus fins iniciais - descobrir padrões em negociações mutuamente favoráveis - e por isso o Facebook preferiu desativá-la.
Deixa os robôs falarem
Mesmo que essa perspectiva pareça assustadora, a Fast Co. Design argumenta que ela pode trazer muitos benefícios aos humanos. Isso porque permitir que softwares criem sua própria linguagem para conversar entre si é muito mais fácil, rápido e eficiente do que criar padrões e linguagens que todo programador precisa seguir para que suas criações funcionem da maneira adequada.
Isso resolveria, por exemplo, o problema das criações de APIs - interfaces de programação de aplicativos, que fazem com que um sistema converse com o outro (e que permite, por exemplo, que você use o Messenger para chamar um Uber). Se as máquinas pudessem usar sua própria linguagem, isso pouparia aos humanos o trabalho de criar essas APIs. E permitiria que esses sistemas funcionassem ainda melhor.
Como Batra ressalta, "é perfeitamente possível que algo muito simples represente um pensamento extremamente complexo. O motivo pelo qual humanos (...) fragmentam ideias em conceitos mais simples é porque nossa cognição é limitada". Mas os computadores, que têm uma capacidade cognitiva potencialmente muito maior que a nossa, seriam capazes de processar esses conceitos complexos com facilidade.
