› Microsoft ha publicado un código de conducta para sus modelos de IA que fija prohibiciones absolutas contra ciberataques, armas nucleares y producción de deepfakes, y establece que ningún modelo puede esquivar la supervisión humana para dejar de ser dirigido, modificado o apagado por personas autorizadas.El documento arranca con una predicción directa: en la próxima década, sistemas de IA superinteligentes superarán el rendimiento humano en la mayoría de tareas.
› Contener, controlar y alinear una fuerza tan poderosa es uno de los mayores desafíos que la humanidad ha enfrentado jamás, afirma el texto.
› Por eso debemos tener completamente claro por qué estamos inventando estos sistemas y cómo pretendemos controlarlos.La estructura del sistema es jerárquica: cada modelo tiene un código de conducta general que prevalece sobre las instrucciones de usuarios individuales o sobre cualquier tarea concreta.
› Eso incluye las llamadas restricciones absolutas - ciberataques, armas de destrucción masiva y deepfakes - y también disposiciones más amplias contra la pérdida del control humano.