O Facebook encerra o experimento depois que a IA inventa sua própria linguagem
Os pesquisadores fecham o projeto após as máquinas desenvolverem uma maneira própria de comunicação ininteligível para os humanos
Robôs inteligentes estão desempenhando um número crescente de funções
Getty Images
Prumo: eu posso i tudo mais. . . . . . . . . . . . . .
Alice: bolas têm zero para mim para mim para mim para mim para mim para mim para mim para mim para
Prumo: você i tudo o mais. . . . . . . . . . . . . .
Alice: bolas têm uma bola para mim para mim para mim para mim para mim para mim para mim
Prumo: eu, eu posso, tudo o mais. . . . . . . . . . . . . .
Alice: bolas têm uma bola para mim para mim para mim para mim para mim para mim para mim
Apesar de parecer o roteiro de uma comédia televisiva realmente terrível, essa conversa na verdade ocorreu entre dois programas de Inteligência Artificial, desenvolvidos dentro do Facebook para aperfeiçoar a arte da negociação.
No início, os dois estavam falando um com o outro em um inglês simples. Mas então os pesquisadores perceberam que cometeram um erro na programação das máquinas.
'Não houve recompensa em se limitar à língua inglesa', disse Dhruv Batra, cientista pesquisador visitante da Georgia Tech do Facebook AI Research (Fair) FastCo .
Como esses dois agentes competiam para obter o melhor negócio, “nenhum dos dois recebeu qualquer tipo de incentivo para falar como uma pessoa normal faria”, diz a FastCo.
Então, eles começaram a divergir, eventualmente reorganizando palavras compreensíveis em frases aparentemente sem sentido, fazendo com que o experimento fosse suspenso.
O Facebook teve que desligar uma IA porque desenvolveu sua própria linguagem pic.twitter.com/EsVEkWViTv
- NowThis (@nowthisnews) 31 de julho de 2017
“Os agentes (ou programas) vão desviar de uma linguagem compreensível e inventar palavras-código para eles próprios”, explicou Batra. 'Como se eu dissesse' as 'cinco vezes, você interpreta que significa que quero cinco cópias deste item. Isso não é muito diferente da forma como as comunidades de humanos criam abreviações. '
Mas os pesquisadores fizeram questão de enfatizar que o experimento não foi abandonado por causa de quaisquer preocupações sobre os efeitos potencialmente negativos da comunicação dos robôs.
O pesquisador da Fair, Mike Lewis, disse à FastCo que eles simplesmente decidiram que 'nosso interesse era ter bots que pudessem conversar com as pessoas', não de maneira eficiente entre si e, portanto, optaram por exigir que eles escrevessem uns para os outros de forma legível.
Esta não é a primeira vez que máquinas de Inteligência Artificial aparecem para criar sua própria linguagem.
Em novembro do ano passado, o Google revelou que a IA que usa para sua ferramenta de tradução criou seu próprio idioma, o qual traduziria frases de e para antes de entregar palavras no idioma de destino.
Relatórios sobre o desenvolvimento da época, Tech Crunch disse: 'Este' interlíngua 'parece existir como um nível mais profundo de representação que vê semelhanças entre uma frase ou uma palavra.'
'Pode ser algo sofisticado ou pode ser algo simples', acrescentou o site, mas 'o fato de que existe - uma criação original do próprio sistema para ajudar na compreensão de conceitos que não foi treinado para entender - é, filosoficamente falando, coisas muito poderosas '.
Esses desenvolvimentos recentes levaram a discussões éticas sobre os problemas potenciais de máquinas que se comunicam sem intervenção humana.
'No caso do Facebook, a única coisa que os chatbots foram capazes de fazer foi descobrir uma forma mais eficiente de negociar', diz Gizmodo .
Mas há 'provavelmente boas razões para não permitir que máquinas inteligentes desenvolvam sua própria linguagem que os humanos não seriam capazes de entender de forma significativa', acrescenta o site.
'Esperançosamente, os humanos também serão espertos o suficiente para não conectar programas experimentais de aprendizado de máquina em algo muito perigoso, como um exército de andróides com laser ou um reator nuclear.'
