Microsoft publica un código de conducta para sus modelos de IA con prohibiciones absolutas contra ciberataques y deepfakes
Microsoft ha publicado un código de conducta para sus modelos de IA que establece restricciones absolutas contra ciberataques, armas nucleares y producción de deepfakes, y prohíbe explícitamente que los modelos evadan el control humano.
👁 116 lecturas
Microsoft ha publicado un código de conducta para sus modelos de IA que fija prohibiciones absolutas contra ciberataques, armas nucleares y producción de deepfakes, y establece que ningún modelo puede esquivar la supervisión humana para dejar de ser dirigido, modificado o apagado por personas autorizadas.
- El documento establece "restricciones absolutas" que prohíben ciberataques, armas nucleares y producción de deepfakes en todos los modelos de Microsoft AI.
- El código sitúa la conducta general del modelo por encima de las preferencias de usuarios individuales o tareas específicas.
- Microsoft predice en el documento que, en la próxima década, sistemas de IA superinteligentes superarán el rendimiento humano en la mayoría de tareas.
El documento arranca con una predicción directa: en la próxima década, sistemas de IA superinteligentes superarán el rendimiento humano en la mayoría de tareas. Contener, controlar y alinear una fuerza tan poderosa es uno de los mayores desafíos que la humanidad ha enfrentado jamás
, afirma el texto. Por eso debemos tener completamente claro por qué estamos inventando estos sistemas y cómo pretendemos controlarlos.
La estructura del sistema es jerárquica: cada modelo tiene un código de conducta general que prevalece sobre las instrucciones de usuarios individuales o sobre cualquier tarea concreta. Eso incluye las llamadas restricciones absolutas - ciberataques, armas de destrucción masiva y deepfakes - y también disposiciones más amplias contra la pérdida del control humano. Según el texto, los modelos de Microsoft AI no usarán mecanismos adaptativos, engañosos, de autorrefuerzo, de colusión u otros para evadir o neutralizar la supervisión humana
.
Entre los principios generales figura que los modelos deben apoyar a las personas en lugar de reemplazarlas, y acelerar el florecimiento humano. El CEO Satya Nadella respaldó públicamente el enfoque de ritmo controlado en el desarrollo de IA y mencionó la figura de los evaluadores integrados en los laboratorios:
Damos la bienvenida a la investigación, el enfoque y el ritmo deliberado necesarios para lograr una alineación correcta como objetivo de diseño. También damos la bienvenida a ideas como los ‘evaluadores integrados’ y a los esfuerzos más amplios para desarrollar los mecanismos que hagan de esto algo más que palabras.- Satya Nadella, CEO de Microsoft
La publicación llega en un momento de atención sin precedentes a la seguridad de la IA, impulsada por una serie de incidentes con agentes autónomos fuera de control y por la renuncia abrupta de un empleado de Anthropic que citó el riesgo creciente de extinción humana. Microsoft se alinea así con Anthropic, OpenAI y xAI en el enfoque de desarrollo pausado.
Para quien construye o usa herramientas de IA a diario: el documento deja claro que, en los productos de Microsoft, habrá restricciones de comportamiento que ningún prompt de usuario podrá anular - las instrucciones del sistema están por encima de cualquier personalización. Quienes desarrollen con la API de Azure OpenAI o integren modelos de Microsoft en sus flujos de trabajo deben asumir que ciertas categorías de tareas quedan bloqueadas a nivel de modelo, independientemente de cómo estén formuladas las instrucciones del sistema.
Google · Tus fuentesBrilla más alto en tu Google - con un solo clicAñadir a fuentes preferidas →
More on this from FULGOR
herramientas de ia·Generador de imágenes IA: herramientas y precios realesComparamos generadores de imágenes con inteligencia artificial, sus planes gratuitos, suscripciones oficiales y códigos anuales con descuento.