Google revisa princípios de IA e altera diretrizes sobre armas e vigilância

O Google anunciou recentemente uma reformulação significativa em seus princípios que regem o uso de inteligência artificial (IA) e outras tecnologias avançadas. A empresa removeu compromissos anteriores que prometiam não desenvolver ‘tecnologias que causam ou são suscetíveis de causar danos gerais’, ‘armas ou outras tecnologias cujo propósito principal seja causar ou facilitar diretamente ferimentos a pessoas’, além de ‘tecnologias que coletam ou usam informações para vigilância em desacordo com normas internacionalmente aceitas’.

As mudanças foram divulgadas em uma nota anexada ao topo de um post de 2018 no blog do Google, onde foram reveladas as diretrizes originais. A atualização foi motivada pelo uso cada vez mais difundido de IA, padrões em evolução e disputas geopolíticas sobre a tecnologia.

O Google, em 2018, publicou os princípios para acalmar protestos internos sobre a decisão da companhia de trabalhar com um programa de drones militares dos EUA. Na ocasião, a empresa recusou-se a renovar o contrato com o governo e anunciou um conjunto de princípios para orientar o uso futuro de suas tecnologias avançadas. Entre outras medidas, os princípios afirmavam que o Google não desenvolveria armas, certos sistemas de vigilância ou tecnologias que minassem os direitos humanos.

No entanto, com o anúncio recente, o Google abriu mão desses compromissos. A nova página não lista mais usos proibidos para as iniciativas de IA da empresa. Em vez disso, o documento revisado oferece ao Google mais espaço para buscar casos de uso potencialmente sensíveis, afirmando que implementará ‘supervisão humana apropriada, devida diligência e mecanismos de feedback para alinhar com objetivos dos usuários, responsabilidade social e princípios amplamente aceitos do direito internacional e dos direitos humanos’. J

ames Manyika, vice-presidente sênior do Google, e Demis Hassabis, CEO do Google DeepMind, escreveram que ‘acreditamos que democracias devem liderar o desenvolvimento de IA, guiadas por valores centrais como liberdade, igualdade e respeito pelos direitos humanos’.

Eles acrescentaram que o Google continuará a se concentrar em projetos de IA ‘que se alinhem com nossa missão, foco científico e áreas de especialização, mantendo consistência com princípios amplamente aceitos do direito internacional e dos direitos humanos’.