Devemos nos preocupar com a inteligência artificial?
Em profundidade: a ascensão dos robôs de IA pode fazer ou destruir o futuro da humanidade
Robôs inteligentes estão desempenhando um número crescente de funções
Getty Images
O sucesso na criação de IA eficaz pode ser o maior evento da história de nossa civilização. Ou o pior. Simplesmente não sabemos, disse o professor Stephen Hawking no Web Summit desta semana em Lisboa.
Junto com muitos benefícios, disse Hawking, a inteligência artificial (IA) traz muitos perigos, como poderosas armas autônomas ou novas maneiras de poucos oprimirem muitos.
O físico pediu uma nova regulamentação para garantir que a humanidade pudesse evitar que a IA ameacasse sua existência.
Talvez devêssemos todos parar por um momento e focar não apenas em tornar nossa IA melhor e mais bem-sucedida, mas também no benefício da humanidade, acrescentou ele.
Hawking não é o único luminar do mundo da ciência e tecnologia a alertar sobre o futuro da IA.
Devemos todos ter muito cuidado com a inteligência artificial, Bill Gates disse no início deste ano. Se eu tivesse que adivinhar qual é a nossa maior ameaça existencial, provavelmente é essa. Com inteligência artificial, estamos convocando o demônio. '
Nos últimos meses, surgiram manchetes sobre robôs assassinos e sobre a substituição de trabalhadores humanos por automação, mas também sobre algoritmos que ajudam a diagnosticar o câncer e o desenvolvimento bem-sucedido de carros autônomos.
Alguns estudiosos argumentam que é o risco existencial mais urgente que a humanidade pode enfrentar, enquanto outros geralmente descartam o perigo hipotético como um causador de destruição infundado, diz Placa-mãe É Phil Torres.
Então, devemos nos preocupar com a disseminação da IA? E o que podemos fazer a respeito?
A reação à IA
PARA YouGov Uma pesquisa realizada no ano passado com mais de 2.000 pessoas descobriu que as atitudes do público em relação à IA variam muito, dependendo de sua aplicação.
Cerca de 70% dos entrevistados gostavam de máquinas inteligentes para realizar trabalhos aparentemente braçais, como monitoramento de safras - mas isso caiu para 49% quando se tratava de tarefas domésticas, enquanto apenas 23% ficariam felizes com robôs para realizar operações médicas. E apenas 17% estavam confortáveis com a ideia dos chamados robôs sexuais.
Uma das principais preocupações sobre IA é sua natureza impessoal.
Em agosto, o CEO da Tesla e da SpaceX, Elon Musk, junto com 115 outros especialistas em IA e robótica, assinou uma carta aberta instando a ONU a reconhecer os perigos das armas autônomas letais e a proibir seu uso internacionalmente.
De acordo com Human Rights Watch organização, os EUA, China, Israel, Coréia do Sul, Rússia e Reino Unido têm investido no desenvolvimento de sistemas de armas com níveis decrescentes de controle humano nas funções críticas de seleção e engajamento de alvos.
Steven Finlay , autor de Artificial Intelligence and Machine Learning for Business, acredita que robôs armados autônomos que podem rastrear e alvejar pessoas, usando software de reconhecimento facial, estão chegando.
A IA e a robótica estão avançando tão rapidamente que, em alguns anos, as guerras poderiam ser travadas com armas e veículos autônomos, relata O guardião .
Regular ou exterminar?
A regulamentação da IA é uma resposta para o problema.
Uma democracia moderna saudável requer que os cidadãos comuns participem de discussões públicas sobre o rápido avanço das tecnologias. Precisamos desesperadamente de novas políticas, regulamentos e redes de segurança para os deslocados por máquinas, diz A nação Katharine Dempsey.
Elon Musk concorda. Em 2014, ele disse: Estou cada vez mais inclinado a pensar que deve haver alguma supervisão regulatória, talvez em nível nacional e internacional, apenas para garantir que não façamos algo muito tolo.
Indiscutivelmente, a maior preocupação é que as máquinas possam se tornar melhores na tomada de decisões do que os humanos, escravizando a humanidade aos tomadores de decisão automatizados e a quem quer que os controle.
Os sistemas baseados em IA já estão substituindo muitos empregos. Por exemplo, algumas máquinas de IA podem detectar câncer de pele com a mesma precisão de um médico humano, Com fio relatórios.
Muitas de nossas escolhas já são influenciadas pela IA, por meio de sites como Amazon e Facebook. Os algoritmos determinam o conteúdo que vemos online e fazem recomendações sobre tudo, desde o que assistimos na TV e onde comemos até quem saímos.
O que torna este cenário tão perigoso é que ele não está sendo planejado por algum mestre da inteligência abrangente ou supervisor da máquina, diz Steven Finlay. Estamos criando a mesma tecnologia que pode levar à nossa morte.
Uma mudança para melhor?
Nem tudo é desgraça e tristeza.
Estou otimista de que podemos criar um futuro inspirador com IA se vencermos a corrida entre o poder crescente da IA e a sabedoria crescente com a qual o gerenciamos, mas isso vai exigir planejamento e trabalho, físico Max Tegmark, autor de Life 3.0: Ser Humano na Era da Inteligência Artificial, contado Placa-mãe .
Embora Tegmark defenda a regulamentação, ele argumenta que também deve haver um foco nas vantagens do uso de IA. Se as pessoas se concentrarem apenas nas desvantagens, elas ficarão paralisadas pelo medo e a sociedade ficará polarizada e fragmentada, conclui ele.
