Tecnología

Microsoft ha despedido a todo el equipo encargado de controlar la ética de su IA: ¿Debería preocuparnos?

  • Esto es más grave de lo que puede sonar ya que da espacio para que se abuse de esta tecnología
  • Exempleados de la compañía señalan la importancia que tenía este equipo
Alamy

Dentro de la carrera por tener la Inteligencia Artificial más avanzada, Microsoft y OpenAI son las compañías que la lideran, gracias a ChatGPT. Pero según acabamos de saber, la compañía propiedad de Bill Gates acaba de despedir a todo el equipo de ética y sociedad que controlaban y guiaban la creación de herramientas para esta tecnología.

Si hay algo que es preocupante sobre la Inteligencia Artificial (IA) es quién va a ser capaz de controlar a estas máquinas y sus capacidades. Por ello, todas las empresas y startups que están desarrollando este tipo de tecnología tienen un apartado encargado de instaurar valores y ética a esta tecnología, sin embargo, tal y como ha descubierto Platformer, Microsoft se acaba de cargar al equipo que tenían para esto.

Sorprende, que en el momento más álgido de la historia para la IA, Microsoft quien lidera este sector, liquide toda una sección. En su defensa, la compañía ha recalcado que sigue teniendo activa la oficina de Responsabilidad de la IA, quien se encarga de crear normas y principios que rijan las iniciativas de IA de la empresa y han asegurado que su inversión en estos apartados sigue aumentando a pesar de los despidos.

No obstante, según aseguran tanto extrabajadores como empleados actuales, el equipo de ética y sociedad ocupaba un rol fundamental a la hora de garantizar que estas normas y principios se reflejasen en los productos finales que van a utilizar los usuarios.

"La gente miraba los principios que salían de la oficina de Responsabilidad de la IA y no sabían cómo se aplicaba" cuenta un antiguo empleado. "Nuestro trabajo era enseñárselo y crear normas en áreas donde no las había".

En 2020, dicho equipo estaba formado por hasta 30 empleados especializados en distintas áreas como la ingeniería, diseño o incluso filosofía, sin embargo, en octubre del año pasado Microsoft cesó a la mayoría del equipo dejando tan solo a siete empleados, y ahora seis meses después ha despedido a los restantes.

Esto es bastante más grave de lo que puede sonar, ya que mientras las compañías tecnológicas siguen avanzando en las capacidades de la IA, no se está haciendo lo mismo con la responsabilidad social que deben tener estas máquinas. De esta manera, están dando carta blanca para que la gente haga abusos de esta tecnología para llevar a cabo tareas para las que no se debería usar la IA.

WhatsAppTwitterTwitterLinkedinBeloudBeloud