Importantes figuras do mundo da tecnologia e da inteligência artificial, incluindo Elon Musk e Yoshua Bengio, estão pedindo uma pausa no desenvolvimento acelerado de novas e poderosas ferramentas de IA.
A carta intitulada “Pause Giant AI Experiments: An Open Letter“, Pausar Experimentos Gigantes de Inteligência Artificial: Uma Carta Aberta, pede uma moratória de seis meses ou mais no treinamento de sistemas de IA com dados reais, para que o setor possa definir padrões de segurança, regulamentações e evitar possíveis danos destas tecnologias mais arriscadas.
Embora a carta não peça a interrupção completa do desenvolvimento de IA, ela destaca a necessidade de as empresas interromperem temporariamente o treinamento de sistemas mais poderosos, como a próxima geração da tecnologia OpenAI, GPT-5, lançada recentemente pela startup apoiada pela Microsoft Corp.
O Chat GPT é um modelo de linguagem natural criado pela empresa OpenAI, desenvolvido com a tecnologia de aprendizado profundo, especificamente a arquitetura de rede neural conhecida como Transformer. Ele tem a capacidade de gerar textos de alta qualidade e complexidade, simulando a capacidade humana de processamento de linguagem natural. O GPT-3, a versão mais recente do modelo, tem 175 bilhões de parâmetros e é considerado um dos modelos de IA mais avançados atualmente.
O empresário Elon Musk tem expressado preocupações sobre o desenvolvimento da inteligência artificial e sua potencial ameaça à humanidade. Em 2014, Musk disse que a IA poderia ser mais perigosa que armas nucleares e em 2015 fundou a organização sem fins lucrativos OpenAI, com o objetivo de desenvolver tecnologias de IA de forma segura e responsável.
Em 2017, Musk deixou o conselho da OpenAI para evitar conflitos de interesse com a Tesla, sua empresa de carros elétricos e sistemas de energia renovável. No entanto, ele continuou a expressar preocupações sobre o desenvolvimento de IA e seus possíveis impactos na sociedade.
Em 2018, Musk falou no South by Southwest Festival em Austin, Texas, onde alertou sobre o potencial da IA superar a inteligência humana e a necessidade de regulamentação governamental para monitorar o desenvolvimento de IA. Ele também discutiu a importância de se trabalhar em soluções de energia renovável para enfrentar os desafios da mudança climática.
Musk também tem criticado a falta de transparência na tecnologia de IA e a necessidade de mais pesquisas em IA de segurança. Ele argumenta que as empresas de IA devem priorizar a segurança e a responsabilidade ao desenvolver novas tecnologias.
Em 2021, Musk também expressou apoio à ideia de que os humanos poderiam ser capazes de fundir seus cérebros com a tecnologia de IA, como uma forma de aumentar a capacidade cognitiva humana. Ele também fundou a Neuralink, uma empresa de tecnologia de interfaces cérebro-máquina, com o objetivo de desenvolver implantes cerebrais que possam melhorar a capacidade humana de processamento de informações.
Musk tem sido um dos principais defensores de uma abordagem cautelosa no desenvolvimento da IA e tem instado as empresas a adotar uma abordagem mais consciente em relação aos seus efeitos na sociedade. Ele tem apoiado a regulamentação governamental do desenvolvimento de IA e a implementação de medidas de segurança para evitar a criação de sistemas autônomos que possam ser prejudiciais à humanidade.
No entanto, assim como Elon Musk e outros especialistas em IA, a equipe da OpenAI reconhece os perigos potenciais da IA superinteligente. Eles afirmam que é importante ter cuidado ao desenvolver e usar a IA e que é necessário garantir a transparência e a ética em todas as aplicações. A OpenAI também tem sido ativa em pesquisas sobre a segurança da IA, incluindo a criação de um conjunto de ferramentas para avaliar a segurança dos modelos de IA.
Além de suas preocupações sobre a IA, Musk é um defensor de outras tecnologias disruptivas, como carros elétricos, energia renovável e exploração espacial. Ele fundou a Tesla em 2003, com o objetivo de produzir carros elétricos acessíveis e de alta qualidade, e também fundou a SpaceX em 2002, com o objetivo de tornar a exploração espacial mais acessível e viável.