Para dar a mulheres acadêmicas com foco em IA e outras o merecido – e devido – destaque, o TechCrunch está lançando uma série de entrevistas com foco em mulheres notáveis que contribuíram para a revolução da IA. Publicaremos vários artigos ao longo do ano, à medida que o boom da IA continua, destacando trabalhos importantes que muitas vezes não são reconhecidos. Leia mais perfis aqui.
Brandie Nonnecke é a diretora fundadora do CITRIS Policy Lab, com sede na Universidade da Califórnia em Berkeley, que apoia pesquisas interdisciplinares para abordar questões relacionadas ao papel da regulamentação na promoção da inovação. Nonnecke também é codiretora do Berkeley Center for Law and Technology, onde lidera projetos sobre IA, plataformas e sociedade, e do UC Berkeley AI Policy Hub, uma iniciativa para treinar pesquisadores a desenvolver estruturas eficazes de governança e políticas de IA.
Em seu tempo livre, Nonnecke apresenta uma série de vídeos e podcasts, TecHype, que analisa políticas, regulamentações e leis de tecnologia emergentes, fornecendo insights sobre os benefícios e riscos e identificando estratégias para aproveitar a tecnologia para o bem.
Q&A
Em poucas palavras, como você começou a trabalhar com IA? O que o atraiu para essa área?
Trabalho com governança responsável de IA há quase uma década. Minha formação em tecnologia, políticas públicas e sua interseção com os impactos sociais me atraíram para essa área. A IA já é difundida e tem um impacto profundo em nossas vidas – para o bem e para o mal. É importante para mim contribuir de forma significativa com a governança responsável da IA. Para mim, é importante contribuir de forma significativa para a capacidade da sociedade de aproveitar essa tecnologia para o bem, em vez de ficar à margem dela.
De que trabalho você mais se orgulha (no campo da IA)?
Estou muito orgulhoso de duas coisas que realizamos. Primeiro, a Universidade da Califórnia foi a primeira universidade a estabelecer princípios responsáveis de IA e uma estrutura de governança para garantir melhor a aquisição e o uso responsáveis da IA. Levamos a sério nosso compromisso de atender ao público de forma responsável. Tive a honra de co-presidir o Grupo de Trabalho Presidencial da UC sobre IA e seu subsequente Conselho Permanente de IA. Nessas funções, pude adquirir experiência em primeira mão, pensando na melhor forma de operacionalizar nossos princípios de IA responsável para proteger nosso corpo docente, funcionários, alunos e as comunidades mais amplas que atendemos. Em segundo lugar, acredito que é fundamental que o público entenda as tecnologias emergentes e seus benefícios e riscos reais. Lançamos o TecHype, uma série de vídeos e podcasts que desmistifica as tecnologias emergentes e fornece orientação sobre intervenções técnicas e políticas eficazes.
Como você enfrenta os desafios do setor de tecnologia, dominado por homens, e, por extensão, do setor de IA, dominado por homens?
Seja curioso, persistente e não se deixe abater pela síndrome do impostor. Descobri que é fundamental procurar mentores que apoiem a diversidade e a inclusão e oferecer o mesmo apoio a outras pessoas que estão entrando na área. A criação de comunidades inclusivas na área de tecnologia tem sido uma maneira poderosa de compartilhar experiências, conselhos e incentivos.
Que conselho você daria às mulheres que desejam entrar no campo da IA?
Para as mulheres que estão entrando no campo da IA, meu conselho é triplo: Busquem conhecimento incessantemente, pois a IA é um campo em rápida evolução. Abrace o networking, pois as conexões abrirão portas para oportunidades e oferecerão apoio inestimável. E defenda a si mesmo e aos outros, pois sua voz é essencial para moldar um futuro inclusivo e equitativo para a IA. Lembre-se de que suas perspectivas e experiências exclusivas enriquecem o campo e impulsionam a inovação.
Quais são alguns dos problemas mais urgentes enfrentados pela IA à medida que ela evolui?
Acredito que um dos problemas mais urgentes enfrentados pela IA à medida que ela evolui é não se prender aos últimos ciclos de propaganda. Estamos vendo isso agora com a IA generativa. Com certeza, a IA generativa apresenta avanços significativos e terá um impacto tremendo – bom e ruim. Mas outras formas de aprendizado de máquina estão em uso atualmente e estão tomando decisões sub-repticiamente que afetam diretamente a capacidade de todos de exercerem seus direitos. Em vez de nos concentrarmos nas últimas maravilhas do aprendizado de máquina, é mais importante que nos concentremos em como e onde o aprendizado de máquina está sendo aplicado, independentemente de sua proeza tecnológica.
Quais são alguns problemas dos quais os usuários de IA devem estar cientes?
Os usuários de IA devem estar cientes das questões relacionadas à privacidade e à segurança dos dados, do potencial de viés na tomada de decisões de IA e da importância da transparência na forma como os sistemas de IA operam e tomam decisões. A compreensão dessas questões pode capacitar os usuários a exigir sistemas de IA mais responsáveis e equitativos.
Qual é a melhor maneira de criar IA de forma responsável?
A criação responsável de IA envolve a integração de considerações éticas em todos os estágios de desenvolvimento e implantação. Isso inclui o envolvimento de diversas partes interessadas, metodologias transparentes, estratégias de gerenciamento de vieses e avaliações de impacto contínuas. É fundamental priorizar o bem público e garantir que as tecnologias de IA sejam desenvolvidas tendo como base os direitos humanos, a justiça e a inclusão.
Como os investidores podem promover melhor a IA responsável?
Essa é uma pergunta muito importante! Durante muito tempo, nunca discutimos expressamente o papel dos investidores. Não tenho palavras para expressar o quanto os investidores são impactantes! Acredito que o tropo de que “a regulamentação sufoca a inovação” é usado em excesso e muitas vezes não é verdadeiro. Em vez disso, acredito firmemente que as empresas menores podem ter uma vantagem de se movimentar tardiamente e aprender com as empresas maiores de IA que vêm desenvolvendo práticas responsáveis de IA e com as orientações que surgem do meio acadêmico, da sociedade civil e do governo. Os investidores têm o poder de moldar a direção do setor, tornando as práticas responsáveis de IA um fator crítico em suas decisões de investimento. Isso inclui o apoio a iniciativas que se concentram na abordagem de desafios sociais por meio da IA, promovendo a diversidade e a inclusão na força de trabalho da IA e defendendo uma governança forte e estratégias técnicas que ajudem a garantir que as tecnologias de IA beneficiem a sociedade como um todo.
