Microsoft demite equipe de IA ética ao se concentrar na OpenAI

A Microsoft demitiu uma equipe inteira dedicada a orientar a inovação da IA ​​que leva a resultados éticos, responsáveis ​​e sustentáveis. O corte da equipe de ética e sociedade, conforme relatado por jogo de plataformafaz parte de uma recente onda de demissões que afetou 10.000 funcionários em toda a empresa.

A eliminação da equipe ocorre quando a Microsoft investe mais bilhões de dólares em sua parceria com a OpenAI, a startup por trás de sistemas de IA de geração de arte e texto, como ChatGPT e DALL-E 2, e renova seu mecanismo de pesquisa Bing e o navegador Edge para serem alimentados por um novo modelo de linguagem grande de última geração que é “mais poderoso que o ChatGPT e personalizado especificamente para pesquisa”.

A medida questiona o compromisso da Microsoft em garantir que o design de seus produtos e os princípios de IA estejam intimamente interligados em um momento em que a empresa está disponibilizando suas controversas ferramentas de IA para o mainstream.

A Microsoft ainda mantém seu Office of Responsible AI (ORA), que define regras para IA responsável por meio de governança e trabalho de políticas públicas. Mas os funcionários disseram à Platformer que a equipe de ética e sociedade era responsável por garantir que os princípios de IA responsável da Microsoft fossem realmente refletidos no design dos produtos que são enviados. A equipe trabalhou recentemente para identificar os riscos apresentados pela integração da Microsoft da tecnologia OpenAI em seu conjunto de produtos.

A equipe de ética e sociedade não era muito grande – apenas cerca de sete pessoas permaneceram após uma reorganização em outubro. Fontes que falaram com a Platformer disseram que a pressão do diretor de tecnologia Kevin Scott e do CEO Satya Nadella estava aumentando para colocar os modelos OpenAI mais recentes, bem como as próximas iterações, nas mãos dos clientes o mais rápido possível.

No ano passado, a reorganização viu a maior parte da equipe de ética e sociedade transferida para outras equipes. Em 6 de março, John Montgomery, vice-presidente corporativo de AI, disse aos membros restantes que eles seriam eliminados afinal. Os membros da equipe disseram ao Platformer que acreditavam que foram demitidos porque a Microsoft havia se tornado mais focada em enviar seus produtos de IA antes da concorrência e estava menos preocupada com o pensamento socialmente responsável de longo prazo.

Equipes como o departamento de ética e sociedade da Microsoft geralmente puxam as rédeas das grandes organizações de tecnologia, apontando possíveis consequências sociais ou ramificações legais. A Microsoft talvez não quisesse mais ouvir “não”, já que estava empenhada em tirar participação de mercado do mecanismo de busca do Google. A empresa disse que cada 1% de participação de mercado que poderia arrancar do Google resultaria em US$ 2 bilhões em receita anual.

A Microsoft não foi encontrada para comentar.