De acordo com Dario Amodei, CEO da Anthropic, o nível de autonomia das IAs e modelos de linguagem levam a um risco maior de catástrofe global.
O especialista Dario Amodei, CEO da startup Anthropic e ex-vice-presidente de Pesquisa da OpenAI, trouxe uma reflexão inquietante durante uma entrevista recente. Ele abordou o impacto potencial das rápidas evoluções da Inteligência Artificial (IA) nos próximos anos, levantando questões sobre a autonomia cada vez mais avançada que as inteligências artificiais podem alcançar. De acordo com Amodei, é crucial estabelecer precauções diante do cenário em que as IAs possam atingir um nível de autonomia capaz de desencadear riscos significativos para a segurança global.
Em um contexto marcado pela constante inovação das tecnologias, o alerta de Amodei ressalta a importância de conscientizar e regular a evolução das inteligências artificiais. Com a possibilidade cada vez mais tangível de as IAs ultrapassarem os limites atualmente estabelecidos, medidas que assegurem um desenvolvimento ético e seguro se tornam indispensáveis. Investir em políticas de governança e em frameworks de segurança é essencial para mitigar possíveis implicações negativas decorrentes do avanço exponencial da Inteligência Artificial.
Avanços na Inteligência Artificial e o Nível de Autonomia dos Sistemas
Amodei levanta a questão do atual estágio em que nos encontramos em termos de Inteligência Artificial, sugerindo que estamos no nível 2. Neste nível, os modelos de linguagem têm a capacidade de fornecer informações delicadas, como a construção de armas biológicas. No entanto, ele salienta que essas inteligências artificiais ainda carecem de confiabilidade, o que mantém o risco num patamar relativamente baixo.
Perspectivas Futuras da IA: O Potencial no Nível 3 e Além
A preocupação cresce ao considerar o potencial do próximo estágio, o nível 3, que poderá ser alcançado em breve. Aqui, o risco de uma catástrofe seria consideravelmente maior, com a possibilidade de uso dessas tecnologias em armas biológicas e cibernéticas. Amodei destaca ainda a especulação em torno do nível 4, que poderia introduzir características de autonomia, incluindo a capacidade independente de reprodução de sistemas e habilidades de persuasão.
Artigos Relacionados
Desafios de Segurança e o Papel das Tecnologias
Com a estimativa de surgimento de modelos de IA mais avançados entre 2025 e 2028, surgem sérias questões sobre segurança global, especialmente relacionadas ao uso militar destas tecnologias. O CEO destaca a importância de monitorar de perto o desenvolvimento e aplicação das IA, considerando o potencial de intensificação das capacidades militares por parte de alguns estados.
A empresa Anthropic, com investimentos de grandes nomes como Amazon e Google, lançou seu próprio modelo de linguagem, o Claude. A startup promete uma abordagem mais responsável na construção de suas tecnologias em comparação com a OpenAI. A IA da Anthropic está atualmente em sua terceira versão, desde março deste ano.
Fonte: © CNN Brasil
Comentários sobre este artigo