Parem as máquinas!

Parem as máquinas!

• Heraldo Palmeira

No fim de 2022 o mundo da tecnologia – e, por tabela, dos negócios – foi sacudido pela chegada do ChatGPT-3, que terminou dando mais visibilidade à temática da inteligência artificial (IA). Na verdade, essa ferramenta que surgiu com tanto alarde é apenas mais um dos inúmeros sistemas existentes de “conversa” com máquinas. Embora represente um avanço considerável no ambiente da IA, e até já tenha desembarcado na praça a versão atualizada ChatGPT-4, o ambiente ficou impregnado de dúvidas, temores, problemas e especulações.

Como consequência direta dessa “luz amarela” que acendeu, mais de 1 mil protagonistas altamente respeitados no mundo tecnológico e em outros setores apresentaram uma carta aberta pedindo pausa nos avanços em sistemas de IA. Em português claro, defendem a interrupção por 6 meses nos treinamentos de sistemas ainda mais poderosos que o ChatGPT-4, que estão em laboratório. Essa interrupção serviria para que protocolos de segurança e modelos de governança sobre a tecnologia pudessem ser claramente definidos.

A iniciativa partiu do Future of Life Institute, entidade norte-americana sem fins lucrativos fundada em 2014 cujo objetivo é reduzir riscos globais catastróficos e existenciais enfrentados pela humanidade, com ênfase nas consequências existenciais da IA avançada.

Na lista de signatários estão pesquisadores e professores, além de engenheiros de empresas como Microsoft e Google, ambas com grandes investimentos no setor. Dentre os nomes mais conhecidos, Elon Musk, Steve Wozniak, Yuval Harari, Emad Mostaque, Yoshua Bengio, Jaan Tallinn e Evan Sharp. Curiosamente, Musk é ex-investidor e ex-presidente da OpenAI, criadora do ChatGPT.

Bill Gates não se alinhou com o grupo na carta aberta. Além do investimento de US$ 11 bilhões (R$ 55,6 bilhões) que a Microsoft fez no desenvolvimento do ChatGPT, o bilionário considera que a IA deverá trazer diversos benefícios para os setores de saúde e educação. Mas, em artigo publicado em seu próprio blog (21/03) – antes da divulgação da carta aberta dos demais –, reconheceu que há riscos e apontou maneiras de tentar evitá-los. Em entrevista à Reuters, afirmou que é difícil entender como uma pausa poderia funcionar globalmente, seus detalhes seriam complicados de aplicar. “Eu realmente não entendo quem eles estão dizendo que poderá parar, e se todos os países do mundo vão concordar em parar. Mas há muitas opiniões diferentes nessa área”, concluiu.

Se essa novidade tecnológica deixa no ar a impressão de que carrega muitos perigos que a maioria das pessoas sequer consegue avaliar, a elaboração desse documento ganha contornos de alerta. Afinal, ele traz a assinatura de muitos daqueles cujos nomes estão escritos na paternidade do mundo digital que temos disponível hoje. Sem contar que se trata de um mercado bilionário e rasgar dinheiro não é bem o negócio dessa gente que vive com os pés fincados no futuro.

O documento do Future of Life Institute não usa meios-termos: “Sistemas de IA que competem com a inteligência humana podem representar riscos profundos para a sociedade e a humanidade”. O instituto afirma que, nos últimos meses, diversas empresas de tecnologia lançaram sistemas de IA “que ninguém – nem mesmo seus criadores – pode entender, prever ou controlar de forma confiável”.

Outra reclamação é que não existe planejamento adequado para as mudanças que serão causadas por essa tecnologia. O grupo defende que “se essa pausa não puder ser decretada rapidamente, os governos devem intervir e instituir uma moratória”. Por fim, o documento afirma que a interrupção solicitada não vai atrapalhar o desenvolvimento de IA, mas servirá para derrotar a “corrida perigosa para modelos de caixa-preta cada vez maiores e imprevisíveis com capacidades emergentes”.

Não é de hoje que ouvimos dizer que é muito perigoso brincar de Deus. Seja qual for o rumo dessa prosa que se vale da tecnologia para tentar reinventar a roda da inteligência natural – que nunca deixou a humanidade na mão e nos trouxe até aqui –, prudência parece uma postura adequada neste período inicial.

Claro que o desenvolvimento tecnológico não tem mais volta e tornou-se fundamental na vida humana. Seria estupidez refutar os avanços extraordinários que temos hoje à disposição em simples cliques digitais. Mas também parece razoável considerar que sempre vão faltar nas máquinas mais perfeitas algumas características humanas difíceis de ensinar para elas: sabedoria, sentimento, discernimento, compreensão, sensatez… Não será por incapacidade humana de ensinar; será por impossibilidade de aprendizado delas. E nem abri o dicionário para fazer uma boa lista do que vai faltar. Não é difícil imaginar um ponto crucial: quando chegar ao verbete “ética”, qualquer máquina vai emperrar.

A carta aberta dos papas da tecnologia soa como o famoso – e raro – “Parem as máquinas!” que se ouvia num grito esbaforido nas altas horas das oficinas da imprensa. Apenas os maiorais da empresa tinham poder para proferir a ordem de suspender a operação das máquinas rotativas de impressão, algo que só ocorria quando um fato muito espetacular acontecia depois do fechamento da edição ou uma grande merda estava prestes a ser impressa e espalhada com consequências incontornáveis. Ou seja, o tal do tal discernimento, intrínseco à inteligência natural. Parceiro da sensibilidade.

Leia também

IA x humanos   https://giramundo.blog.br/ia-x-humanos/