Alinhando a IA com os valores humanos

Pesquisas sobre segurança da IA visam alinhar tecnologia com valores humanos

Audrey Lorvo, uma estudante do último ano do MIT, está se dedicando à pesquisa sobre segurança da inteligência artificial (IA), buscando garantir que modelos de IA cada vez mais inteligentes sejam confiáveis e possam beneficiar a humanidade. Este campo em crescimento foca em desafios técnicos, como a robustez e o alinhamento da IA com valores humanos, bem como em preocupações sociais, como transparência e responsabilidade. Os profissionais da área também se preocupam com os riscos existenciais potenciais associados a ferramentas de IA cada vez mais poderosas.

“Garantir que a IA não seja mal utilizada ou aja de forma contrária às nossas intenções é cada vez mais importante à medida que nos aproximamos da inteligência artificial geral (AGI)”, afirma Lorvo, estudante de ciência da computação, economia e ciência de dados. A AGI descreve o potencial da inteligência artificial de igualar ou superar as capacidades cognitivas humanas.

Impacto social e econômico da IA

Como bolsista do programa de Responsabilidades Sociais e Éticas da Computação (SERC) do MIT Schwarzman College of Computing, Lorvo examina de perto como a IA pode automatizar processos e práticas de pesquisa e desenvolvimento de IA. Integrante do grupo de pesquisa em Big Data, ela investiga as implicações sociais e econômicas associadas ao potencial da IA de acelerar a pesquisa sobre si mesma e como comunicar efetivamente essas ideias e impactos potenciais para públicos gerais, incluindo legisladores e consultores estratégicos.

Lorvo destaca a necessidade de avaliar criticamente os rápidos avanços da IA e suas implicações, garantindo que as organizações tenham estruturas e estratégias adequadas para lidar com os riscos. “Precisamos garantir que os humanos colham os benefícios da IA e que não percamos o controle da tecnologia”, diz ela. “Devemos fazer tudo ao nosso alcance para desenvolvê-la com segurança.”

Participando de iniciativas como a AI Safety Technical Fellowship, Lorvo demonstra seu compromisso em entender os aspectos técnicos da segurança da IA. A bolsa oferece oportunidades para revisar pesquisas existentes sobre o alinhamento do desenvolvimento de IA com considerações sobre o impacto humano potencial. “A bolsa me ajudou a entender as questões e desafios técnicos da segurança da IA, para que eu possa propor melhores estratégias de governança da IA”, ela diz.

O valor do engajamento humano

Desde que chegou ao MIT, Lorvo sabia que queria seguir um curso de estudo que a permitisse trabalhar na interseção entre ciência e humanidades. A variedade de ofertas no Instituto tornou suas escolhas difíceis.

“Existem tantas maneiras de ajudar a melhorar a qualidade de vida para indivíduos e comunidades,” diz ela, “e o MIT oferece muitos caminhos diferentes para investigação.”

Começando com economia — uma disciplina que ela aprecia por seu foco em quantificar impacto — Lorvo explorou matemática, ciência política e planejamento urbano antes de escolher o Curso 6-14.

“As aulas de econometria do Professor Joshua Angrist me ajudaram a ver o valor de focar em economia, enquanto os elementos de ciência de dados e ciência da computação me atraíram por causa do alcance crescente e do impacto potencial da IA,” ela diz. “Podemos usar essas ferramentas para enfrentar alguns dos problemas mais urgentes do mundo e, esperançosamente, superar desafios sérios.”

Lorvo também seguiu concentrações em estudos urbanos e planejamento e desenvolvimento internacional. Ao restringir seu foco, Lorvo descobriu que compartilha uma visão sobre a humanidade com outros membros da comunidade do MIT, como o grupo de Alinhamento da IA do MIT, de quem aprendeu bastante sobre segurança da IA. “Os estudantes se preocupam com seu impacto marginal,” ela diz.

O impacto marginal, o efeito adicional de um investimento específico de tempo, dinheiro ou esforço, é uma maneira de medir quanto uma contribuição adiciona ao que já está sendo feito, em vez de focar no impacto total. Isso pode potencialmente influenciar onde as pessoas escolhem dedicar seus recursos, uma ideia que atrai Lorvo.

“Em um mundo de recursos limitados, uma abordagem orientada por dados para resolver alguns dos nossos maiores desafios pode se beneficiar de uma abordagem personalizada que direciona as pessoas para onde é mais provável que façam o maior bem,” ela diz. “Se você quer maximizar seu impacto social, refletir sobre o impacto marginal da sua escolha de carreira pode ser muito valioso.”

Lorvo também valoriza o foco do MIT em educar o estudante como um todo e aproveitou as oportunidades para investigar disciplinas como filosofia através do MIT Concourse, um programa que facilita o diálogo entre ciências e humanidades. O Concourse espera que os participantes obtenham orientação, clareza e propósito para as buscas científicas, técnicas e humanas.

Experiências dos estudantes no Instituto

Lorvo investe seu tempo fora da sala de aula em criar experiências memoráveis e fomentar relacionamentos com seus colegas. “Tenho a sorte de haver espaço para equilibrar meu trabalho de curso, pesquisa e compromissos de clube com outras atividades, como musculação e iniciativas fora do campus,” ela diz. “Sempre há tantos clubes e eventos disponíveis em todo o Instituto.”

Essas oportunidades de expandir sua visão de mundo desafiaram suas crenças e a expuseram a novas áreas de interesse que alteraram sua vida e escolhas de carreira para melhor. Lorvo, que é fluente em francês, inglês, espanhol e português, também aplaude o MIT pelas experiências internacionais que proporciona aos estudantes.

“Fiz estágio em Santiago do Chile e Paris com o MISTI e ajudei a testar uma câmara de condensação de vapor de água que projetamos em uma aula do D-Lab no outono de 2023, em colaboração com a Escola Politécnica de Madagascar e a ONG Tatirano,” ela diz, “e tenho gostado das oportunidades de aprender sobre como abordar a desigualdade econômica através das minhas aulas de Desenvolvimento Internacional e D-Lab.”

Como presidente da Associação de Economia de Graduação do MIT, Lorvo se conecta com outros estudantes interessados em economia enquanto continua a expandir seu entendimento da área. Ela aprecia os relacionamentos que está construindo enquanto também participa dos eventos da associação ao longo do ano. “Mesmo sendo uma aluna do último ano, encontrei novas comunidades no campus para explorar e apreciar,” ela diz. “Encorajo outros estudantes a continuarem explorando grupos e aulas que despertem seus interesses ao longo do tempo no MIT.”

Após a formatura, Lorvo quer continuar investigando a segurança da IA e pesquisando estratégias de governança que possam ajudar a garantir a implantação segura e eficaz da IA.

“Uma boa governança é essencial para o desenvolvimento bem-sucedido da IA e para garantir que a humanidade possa se beneficiar de seu potencial transformador,” ela diz. “Devemos continuar monitorando o crescimento e as capacidades da IA à medida que a tecnologia continua a evoluir.”

Entender os potenciais impactos da tecnologia na humanidade, fazer o bem, melhorar continuamente e criar espaços onde grandes ideias possam ver a luz do dia continuam a motivar Lorvo. Mergulhar as humanidades com as ciências anima grande parte do que ela faz. “Sempre esperei contribuir para melhorar a vida das pessoas, e a IA representa o maior desafio e oportunidade da humanidade até agora,” ela diz. “Acredito que o campo da segurança da IA pode se beneficiar de pessoas com experiências interdisciplinares como as que tive a sorte de obter, e encorajo qualquer pessoa apaixonada por moldar o futuro a explorá-lo.”