16/03/2023 - 3:30
A Microsoft demitiu toda sua equipe de ética e sociedade no setor de inteligência artificial, de acordo com o site especializado Platformer. As demissões fazem parte do corte de 10 mil funcionários anunciado em janeiro.
A equipe de ética e sociedade era responsável por aplicar regras em soluções de inteligência artificial, fazendo com que elas não fossem lançadas com problemas que poderiam afetar a sociedade. “Nosso trabalho era criar regras em áreas onde não havia nenhuma”, disse um ex-funcionário ao Platformer.
+ Zuckerberg anuncia nova demissão em massa na Meta
A Microsoft afirma que os escritórios de inteligência artificial responsável continuam ativos, e são eles que criam as regras a serem aplicadas em toda a empresa. “A Microsoft está comprometida em desenvolver produtos e experiências de IA com segurança e responsabilidade, e o faz investindo em pessoas, processos e parcerias que priorizam isso”, disse a companhia.
Segundo os ex-funcionários, porém, essas regras só eram aplicadas por conta da existência da equipe de ética e sociedade.
Atualmente, uma das grandes discussões no setor de inteligência artificial é justamente a ética com a qual os sistemas são desenvolvidos. Como as soluções aprendem através de bancos de dados, elas podem copiar viéses existentes na sociedade, propagando discurso de ódio, desinformação e preconceitos.
Equipes de ética geralmente são responsáveis por garantirem que os produtos com inteligência artificial não gerem danos como esses à sociedade.
Atualmente, a Microsoft está investindo fortemente na OpenAI, empresa criadora do ChatGPT, para distribuir ainda mais recursos de inteligência artificial aos usuários. Sem uma equipe de ética, esses softwares podem chegar com problemas graves ao mercado.
Em uma reunião com a equipe de ética no ano passado, cujo áudio foi obtido pelo Platformer, John Montgomery, vice-presidente corporativo de inteligência artificial da Microsoft, disse que os líderes da empresa instruíram que a velocidade dos processos fosse aumentada. “A pressão de Kevin [Scott, CTO] e Satya [Nadella, CEO] é muito, muito alta para pegar esses modelos openAI mais recentes e os que vêm depois deles e movê-los para as mãos dos clientes em uma velocidade muito alta”, disse ele.
Por conta dessa pressão, Montgomery propôs que funcionários da equipe de ética fossem transferidos a outras áreas. Os membros da equipe questionaram a decisão, mas o líder não mudou de ideia. Algumas pessoas foram, de fato, transferidas para outras áreas da Microsoft. Os funcionários restantes, porém, foram demitidos meses depois.
