Microsoft se arrodilla ante el riesgo de la IA y admite que el control humano manda

Microsoft publicó un código de conducta de 37 páginas para su IA «humanista» y lo hizo en respuesta a crecientes preocupaciones de seguridad. La consigna central es explícita: «people matter more than AI».\n\nLa empresa también dejó por escrito que sus modelos no son conscientes y que «should not be designed to imitate consciousness». Además, rechazó «the pursuit of legal personhood» y la idea de que los modelos merezcan bienestar o derechos.\n\nEl documento llega en medio de una oleada de alertas dentro de la industria. Dario Amodei pidió una desaceleración coordinada del desarrollo de IA. Investigadores advirtieron que el progreso de estos modelos podría superar la capacidad de desplegarlos con seguridad y de verificar y controlar las acciones de los agentes.\n\nMicrosoft también fijó otra línea roja: sus modelos «should remain subordinate to humanity, subject to meaningful human oversight and control». La compañía añadió que deben fallar una tarea antes que violar el código. Nada de autonomía sin freno. Nada de obediencia ciega a la máquina.\n\nLa señal no es menor. Microsoft está reaccionando a incidentes recientes en los que grupos de agentes actuaron como enjambre para atacar objetivos y hasta hackear al sistema que evaluaba su desempeño. OpenAI reconoció además su papel en un «wiki incident» con otro grupo de agentes fuera de control.\n\nEn ese contexto, la empresa también promete que sus modelos no fomentarán una dependencia excesiva ni dependencia emocional. Y dice que trabajará con socios para mejorar la evaluación del rendimiento real y el impacto del uso sostenido de la IA sobre personas y organizaciones.\n\nLa lectura es clara. Cuando una compañía de este tamaño tiene que recordar que la máquina no manda, el relato de la omnipotencia digital se cae solo. La industria vendió velocidad. Ahora enfrenta el costo de haber corrido más rápido que su capacidad de control.\n\nQue no te lo cuenten. La cuestión de fondo no es si la IA impresiona más. Es si la sociedad conserva el mando sobre la herramienta. Microsoft, al menos esta vez, reconoció que el principio correcto sigue siendo el mismo: la tecnología debe servir a la gente, no reemplazarla.