IA pode levar a extinção como pandemias e guerra nuclear

Um comunicado assinado por importantes especialistas da indústria de tecnologia, incluindo cientistas e executivos da Microsoft, Google e outras empresas como a OENIA, criadora do ChatGPT, alerta que a tecnologia de inteligência artificial deve ser considerada um risco social e priorizada de forma semelhante a pandemias e guerras nucleares.

Centenas de executivos e acadêmicos, incluindo Demis Hassabis, CEO do Google DeepMind; Sam Altmany CEO da OpenAI; e Kevin Scott, CTO da Microsoft, assinaram uma declaração emitida pelo Center for AI Safety na terça-feira. Essa declaração foi emitida em meio a crescentes preocupações sobre a regulamentação e os riscos que a tecnologia de inteligência artificial pode representar para a humanidade.

"Especialistas em IA, jornalistas, formuladores de políticas e o público estão discutindo cada vez mais um amplo espectro de riscos de IA importantes e urgentes", explicam. "Ainda assim, pode ser difícil expressar preocupações sobre alguns dos riscos mais sérios da IA ??avançada. A seguinte declaração sucinta visa superar esse obstáculo e abrir a discussão. Também se destina a criar um entendimento comum do número crescente de especialistas e figuras públicas que também levam a sério alguns dos riscos mais sérios da IA ??avançada.”

"Mitigar o risco de extinção da IA ??deve ser uma prioridade global, juntamente com outros riscos sociais, como pandemias e guerra nuclear", diz o documento.

Acredita-se que a inteligência artificial seja o desenvolvimento mais significativo do século XXI, e espera-se que tenha um impacto enorme na vida cotidiana nas próximas décadas. O cientista da computação John McCarthy é creditado por cunhar o termo “Inteligência Artificial” no Projeto de Pesquisa de Verão de Dartmouth de 1956.

Kai-Fu Lee, o ex-presidente do Google China e autor do best-seller AI Superpowers, juntamente com o renomado escritor Chen Qiufan, apresentam em AI 2041: Ten Visions For Our Future (Currency) a visão de que a IA vai gerar uma riqueza extraordinária na sociedade, alterar a área da medicina e educação a partir de uma relação simbiótica entre ser humano e máquina, além de produzir novas formas de entretenimento e comunicação. No entanto, a IA desafiará os princípios organizadores da ordem econômica e social, já que a automação de trabalhos rotineiros pode levar a um novo equilíbrio social. Também há novos riscos, como a criação de armas autônomas e a construção de tecnologias inteligentes que possam herdar o viés humano.