TEXTO 01
Quanto tempo falta até as IAs criarem as próximas IAs?
Na semana passada, o pesquisador de inteligência artificial (IA) e atual CEO da Anthropic, Dario Amodei publicou o ensaio “The Adolescence of Technology” em que ele discorre sobre os riscos da atual fase de crescimento exponencial das capacidades dos algoritmos de IA. A parte do ensaio que criou maior polêmica foi a menção da proximidade que estamos do desenvolvimento de algoritmos recursivos, ou seja, de modelos que sejam capazes de se autoprogramar. Segundo Amodei, estamos “1 a 2 anos de um ponto em que a geração atual de IA construa a próxima de forma autônoma”.(...)
Mas para que as IAs, realmente, criem a sua próxima geração de forma autônoma, alguns desafios técnicos precisam ser superados. A capacidade de aprimorar continuamente a sua própria arquitetura neural, não apenas ajustar seus pesos, é um deles. Outro é desenvolver um meta-aprendizado sobre a sua otimização, compreendendo de fato por que certas mudanças melhoram o seu desempenho, em vez de apenas testá-las empiricamente. Além disso, treinar modelos de IA necessita de uma infraestrutura computacional enorme, e a IA teria de orquestrar esse processo de forma completamente autônoma.
O ensaio de Amodei, no entanto, não é otimista sem ressalvas. Ele aponta preocupações legítimas sobre essa transição. Uma delas é a perda de controle interpretativo, já que, se hoje não entendemos completamente como uma IA funciona, isso tende a piorar quando for criada por outra IA. Outra é a concentração de poder, já que quem controlar as primeiras IAs recursivas pode obter vantagens estratégicas sem precedentes históricos. É importante esclarecer que a previsão de Amodei não é uma unanimidade na comunidade científica. Alguns pioneiros da área (...) argumentam que ainda faltam avanços fundamentais em áreas como raciocínio abstrato e visão de mundo antes de chegarmos a esse nível.
Independentemente do cronograma exato, a trajetória é inegável e aponta para um mundo onde o avanço tecnológico será cada vez mais automatizado. Isso não significa necessariamente o fim do trabalho humano em ciência e tecnologia, mas uma transformação radical sobre como ele é realizado.
O vocábulo “autoprogramar” é um exemplo de palavra formada pelo processo de:
