Protegendo a sociedade dos danos da IA: Matt Mahmoudi e Damini Satija da Amnistia Internacional (Parte 1)

Jun 20, 2023

Dois investigadores da organização de direitos humanos discutem a intersecção da política social e da tecnologia, bem como os problemas com a utilização da IA ​​no sector público.

Em colaboração com

Em colaboração com

Receba as atualizações por email

Por favor insira um endereço de e-mail válido

Obrigado por inscrever-se

política de Privacidade

A Amnistia Internacional reúne mais de 10 milhões de funcionários e voluntários em todo o mundo para defender a justiça social. Damini Satija e Matt Mahmoudi trabalham com a Amnistia Tech, uma divisão da organização de direitos humanos que se concentra no papel do governo, da Big Tech e de tecnologias como a inteligência artificial em áreas como vigilância, discriminação e preconceito.

Neste episódio do podcast Me, Myself, and AI, Matt e Damini juntam-se aos apresentadores Sam Ransbotham e Shervin Khodabandeh para destacar cenários em que as ferramentas de IA podem colocar os direitos humanos em risco, como quando governos e agências do setor público usam sistemas de reconhecimento facial para rastrear ativistas sociais ou algoritmos para tomar decisões automatizadas sobre o acesso à habitação pública e o bem-estar infantil. Damini e Matt alertam que a tecnologia de IA não pode resolver problemas humanos como preconceito, discriminação e desigualdade; que exigirá intervenção humana e mudanças nas políticas públicas.

Para saber mais sobre o que as organizações podem fazer para combater as consequências negativas não intencionais decorrentes do uso de tecnologias automatizadas, assista ao nosso próximo episódio, Parte 2 da nossa conversa com Matt e Damini, que vai ao ar em 13 de setembro de 2023.

Matt Mahmoudi é palestrante, pesquisador e organizador. Ele tem liderado os esforços de investigação e defesa da Amnistia Internacional sobre a proibição de tecnologias de reconhecimento facial e a exposição das suas utilizações contra comunidades racializadas, desde a cidade de Nova Iorque até aos territórios palestinianos ocupados. Ele foi o ganhador inaugural do Jo Cox Ph.D. bolsa de estudos na Universidade de Cambridge, onde estudou infraestruturas urbanas digitais como novas fronteiras para o capitalismo racial e continua sendo professor afiliado de sociologia. Seu trabalho foi publicado nas revistas The Sociological Review e International Political Sociology e no livro Digital Witness (Oxford University Press, 2020). Seu próximo livro é Migrants in the Digital Periphery: New Urban Frontiers of Control (University of California Press, 2023).

Damini Satija é especialista em direitos humanos e políticas públicas e trabalha com dados e inteligência artificial, com foco em discriminação algorítmica, automação do bem-estar, vigilância governamental e equidade tecnológica. Ela é chefe do Laboratório de Responsabilidade Algorítmica e vice-diretora da Amnistia Tech. Anteriormente, trabalhou como consultora do governo do Reino Unido em matéria de ética em dados e IA e representou o Reino Unido como especialista em políticas sobre IA e direitos humanos no Conselho da Europa. Ela tem mestrado em administração pública pela Escola de Relações Públicas e Internacionais da Universidade de Columbia.

Se você está gostando do podcast Me, Myself, and AI, continue a conversa conosco no LinkedIn. Junte-se ao grupo AI for Leaders hoje mesmo.

Entrar "

Assine Me, Myself e AI no Apple Podcasts, Spotify ou Google Podcasts.

Shervin Khodabandeh: Muitos dos nossos convidados pretendem usar a IA para o bem nas suas organizações. No episódio de hoje, conversamos com dois pesquisadores que focam na proteção dos direitos humanos quando são utilizadas ferramentas de inteligência artificial.

Damini Satija:Eu sou Damini Satija...

Matt Mahmoudi:… e eu sou Matt Mahmoudi, da Amnistia Internacional…

Damini Satija:… e você está ouvindo Me, Myself e AI.

Sam Ransbotham: Bem-vindo ao Me, Myself, and AI, um podcast sobre inteligência artificial nos negócios. A cada episódio, apresentamos alguém que está inovando com IA. Sou Sam Ransbotham, professor de análise no Boston College. Também sou editor convidado de IA e estratégia de negócios no MIT Sloan Management Review.