Por Luís Guedes

Os nossos gigantes da tecnologia, discípulos do deus Hefesto, forjaram em um equipamento que cabe no seu bolso a consecução de uma promessa tão antiga, quanto elusiva — uma inteligência não corpórea, que encapsula o conhecimento do mundo. Os tambores do Olimpo entoam que logo essa inteligência não humana poderá resolver os problemas que a nossa própria não tem conseguido — desigualdade, desequilíbrio, desentendimento…

Hefesto, brilhante artífice, tinha lá seus problemas… foi jogado do alto da montanha pela própria mãe, tinha dificuldades de locomoção e não era uma figura propriamente bonita de se ver de perto. O esforço de seus discípulos de hoje também é assim: genial, mas não perfeito. A mesma IA que fascina também desloca em massa empregos e institucionaliza preconceitos.

Os sistemas baseados em IA são tão imparciais quanto os dados com os quais são treinados. Não é difícil conceber que nossas bases de dados (policiais, histórico de crédito, performance nas organizações) refletem as injustiças, preconceitos e imperfeições da nossa sociedade. Hefesto constrói com o que tem à mão. Ainda assim, até 2030 cerca de 375 milhões (!!) de trabalhadores serão induzidos a mudar de atividade por conta da automação que, certa ou nem tão certa assim, será implementada como um rolo compressor por empresas e governos de todas as latitudes.

À medida que a IA se mistura à operação de setores críticos, como saúde e finanças, sua supervisão se torna mais importante. Os afetados pelas recomendações automatizadas devem ter acesso a explicações claras

O tamanho atual da IA me parece sobrevalorizado e a velocidade de implementação em algumas áreas perigosamente alta. Apesar das proezas, a tecnologia ainda está na infância. A aprendizagem profunda, por exemplo, uma força motriz por trás de muitos avanços recentes, tem limitações fundamentais, como a necessidade de grandes quantidades de dados rotulados e a natureza de “caixa preta” de seus modelos — vai saber por que o algoritmo chegou à conclusão de que você gostaria de ouvir heavy metal ou assistir a um filme coreano. Os pesquisadores continuam a enfrentar problemas que desafiam todo o conhecimento que temos. A busca por sistemas de IA mais eficientes, interpretáveis e generalizáveis está longe de terminar.

E é em meio às oportunidades que se convolucionam com desafios, que do alto do Olimpo o mestre Hefesto um tanto frustrado se vê frente a um dilema: para recuperar a confiança e garantir o desenvolvimento responsável, a transparência deve se tornar a regra, mesmo que se perca eficiência e se aumentem os custos.

A opacidade das recomendações elaboradas por IA tem sido um ponto de discórdia e o aumento do uso da tecnologia só irá tornar esse problema maior. À medida que a IA se mistura à operação de setores críticos, como saúde e finanças, a necessidade de supervisão se torna mais importante. Os afetados pelas recomendações automatizadas devem ter acesso a explicações claras sobre como os sistemas funcionam e sobre quais dados se fundamentam. Se a máquina não pode ser responsabilizada por uma decisão, ela não pode tomar uma decisão! A transparência promove a responsabilização dos agentes e permite a retificação de preconceitos e erros que fluíram escondidos na correnteza. Hefesto se casou com Afrodite, a deusa da beleza e do amor. Há esperança, senhoras e senhores.

Luís Guedes é professor da FIA Business School