Uma abordagem cuidadosa para a inteligência artificial
No meio dos inúmeros benefícios que a tomada de decisão algorítmica e a inteligência artificial oferecem — como a revolução na velocidade, eficiência e capacidade preditiva em diversas áreas — Manish Raghavan está empenhado em mitigar os riscos associados, ao mesmo tempo em que busca oportunidades para aplicar essas tecnologias na solução de preocupações sociais preexistentes.
“Meu objetivo final é que minha pesquisa avance em direção a soluções melhores para problemas sociais de longa data”, afirma Raghavan, professor de Desenvolvimento de Carreira Drew Houston, que atua simultaneamente na MIT Sloan School of Management e no MIT Schwarzman College of Computing, no Departamento de Engenharia Elétrica e Ciência da Computação, além de ser investigador principal no Laboratório de Sistemas de Informação e Decisão (LIDS).
Inteligência artificial no processo de contratação
Um bom exemplo da intenção de Raghavan pode ser encontrado em sua exploração do uso da IA no processo de contratação. Ele observa que “é difícil argumentar que as práticas de contratação históricas foram particularmente boas ou dignas de preservação, e ferramentas que aprendem a partir de dados históricos herdam todos os preconceitos e erros cometidos por humanos no passado”.
No entanto, Raghavan vê uma oportunidade potencial. “Sempre foi difícil medir a discriminação”, diz ele, acrescentando que “sistemas movidos por IA às vezes são mais fáceis de observar e medir do que humanos, e um dos objetivos do meu trabalho é entender como podemos aproveitar essa visibilidade melhorada para desenvolver novas formas de identificar quando os sistemas estão se comportando mal”.
Contribuições acadêmicas e prêmios
Crescendo na área da Baía de São Francisco, com pais graduados em ciências da computação, Raghavan inicialmente queria ser médico. No entanto, pouco antes de começar a faculdade, seu amor por matemática e computação o levou a seguir o exemplo da família na área de ciência da computação. Após passar um verão fazendo pesquisas na Universidade Cornell com Jon Kleinberg, professor de ciência da computação e ciência da informação, decidiu fazer seu doutorado lá, escrevendo sua tese sobre “Os Impactos Sociais da Tomada de Decisão Algorítmica”.
Raghavan recebeu prêmios por seu trabalho, incluindo o National Science Foundation Graduate Research Fellowships Program, a Microsoft Research PhD Fellowship e o Cornell University Department of Computer Science PhD Dissertation Award. Em 2022, ele se juntou ao corpo docente do MIT.
IA na medicina e plataformas online
Talvez lembrando seu interesse inicial na medicina, Raghavan pesquisou se as determinações de uma ferramenta de triagem algorítmica altamente precisa, usada no tratamento de pacientes com hemorragia gastrointestinal, conhecida como Glasgow-Blatchford Score (GBS), são melhoradas com o aconselhamento de médicos especialistas.
“O GBS é quase tão bom quanto os humanos, em média, mas isso não significa que não existam pacientes individuais ou pequenos grupos de pacientes onde o GBS está errado e os médicos provavelmente estão certos”, ele diz. “Nossa esperança é que possamos identificar esses pacientes com antecedência para que o feedback dos médicos seja particularmente valioso.”
Raghavan também trabalhou em como plataformas online afetam seus usuários, considerando como os algoritmos de mídia social observam o conteúdo que um usuário escolhe e depois mostram mais do mesmo tipo de conteúdo. O desafio, segundo Raghavan, é que os usuários podem estar escolhendo o que visualizam da mesma forma que pegam um saco de batatas fritas, que são deliciosas mas não muito nutritivas. A experiência pode ser satisfatória no momento, mas pode deixar o usuário se sentindo um pouco indisposto.
Modelo para plataformas mais saudáveis
Raghavan e seus colegas desenvolveram um modelo de como um usuário com desejos conflitantes — por gratificação imediata versus uma satisfação de longo prazo — interage com uma plataforma. O modelo demonstra como o design de uma plataforma pode ser alterado para estimular uma experiência mais saudável. O modelo ganhou o prêmio Exemplary Applied Modeling Track Paper na Conferência de Economia e Computação da Association for Computing Machinery de 2022.
“A satisfação de longo prazo é importante, mesmo que tudo o que importe seja o interesse da empresa”, diz Raghavan. “Se conseguirmos construir evidências de que os interesses dos usuários e empresariais estão mais alinhados, minha esperança é que possamos pressionar por plataformas mais saudáveis sem precisar resolver conflitos de interesse entre usuários e plataformas. Claro, isso é idealista. Mas minha percepção é de que há pessoas suficientes nessas empresas que acreditam que há espaço para deixar todos mais felizes, e elas apenas não têm as ferramentas conceituais e técnicas para fazer isso acontecer.”
Inspiração e desafios pessoais
Sobre seu processo de criar ideias para essas ferramentas e conceitos sobre como melhor aplicar técnicas computacionais, Raghavan diz que suas melhores ideias surgem quando ele pensa intermitentemente em um problema. Ele aconselha seus alunos a seguirem seu exemplo de deixar de lado um problema muito difícil por um dia e depois voltar a ele.
“As coisas geralmente são melhores no dia seguinte”, ele diz.
Quando não está resolvendo um problema ou ensinando, Raghavan pode ser encontrado frequentemente em um campo de futebol, como treinador do Clube de Futebol Masculino de Harvard, uma posição que ele valoriza.
“Não posso procrastinar se sei que vou passar a noite no campo, e isso me dá algo para esperar no fim do dia”, ele diz. “Procuro ter coisas na minha agenda que me pareçam tão importantes quanto o trabalho para colocar os desafios e contratempos em perspectiva.”
Visões futuras para a IA
Enquanto Raghavan considera como aplicar tecnologias computacionais para melhor servir nosso mundo, ele afirma que a coisa mais empolgante em sua área é a ideia de que a IA abrirá novos insights sobre “humanos e a sociedade humana”.
“Espero”, ele diz, “que possamos usá-la para entender melhor a nós mesmos.”
