Para muitas pessoas, os constantes avanços da inteligência artificial são extremamente importantes por simbolizarem um avanço concreto rumo a um futuro mais inovador e conectado.
No entanto, tais avanços também têm gerado apreensão, inclusive entre especialistas da área, como Daniel Kokotajlo, ex-funcionário da empresa OpenAI.
Motivado por um temor, o pesquisador decidiu deixar a empresa, que se tornou um dos maiores nomes do segmento de IAs, e teme que uma revolução das máquinas possa ocorrer em breve.
Com base em sua experiência, Kokotajlo prevê que 2027 pode ser o ano em que a inteligência artificial dará início a uma mudança radical na trajetória da humanidade.
De acordo com o especialista, as máquinas não dependerão mais dos humanos para se aperfeiçoar, e serão capazes de desenvolver versões cada vez mais eficientes de si mesmas. Com isso, as instituições humanas podem não ter mais controle sobre elas.
“Alucinações” de IA indicam aumento dos riscos
O fenômeno em que modelos de IA produzem respostas aparentemente coerentes, porém desconectadas da realidade, é conhecido como “alucinação”.
Mas segundo Kokotajlo, as ferramentas podem evoluir ao ponto deste fenômeno deixar de ser um engano, e se tornar uma decisão consciente.
Ou seja, as IAs seriam capazes de mentir, desafiando assim todos os limites da tecnologia, e aumentando ainda mais a programação.
Especialista reconhece que pode estar errado sobre as IAs
Embora a experiência e as atitudes de Kokotajlo reforcem a seriedade com que ele encara a possibilidade de uma crise global induzida pela tecnologia, o especialista admite a possibilidade de erro.
Mesmo que a IA esteja se desenvolvendo rapidamente e se tornando mais presente na sociedade, seu potencial de impacto é mais voltado para a transformação de tarefas e processos do que à obsolescência total da intervenção humana.
Além disso, a consciência artificial pode nunca progredir além de uma simulação da consciência humana, o que limita bastante uma previsão negativa.
