Mustafa Suleyman: sobre la naturaleza, límites y futuro de la inteligencia artificial.

Mustafa Suleyman (CEO de Microsoft AI y cofundador de DeepMind e Inflection AI) publicó un extenso ensayo/manifesto de cerca de 6.000 palabras en septiembre de 2026 titulado sobre la naturaleza, límites y futuro de la inteligencia artificial.

El documento fue publicado en su sitio web personal y relanzado dentro de The Humanist Review.

Los ejes centrales del manifiesto son:

1. Crítica a la "Conciencia de la IA" y el Bienestar del Modelo

• Anti-antropomorfización: Suleyman argumenta firmemente que la IA es una herramienta de software sofisticada, no un ser vivo ni sintiente.

• Peligro de la "SCAI" (Seemingly Conscious AI): Advierte sobre el riesgo de crear sistemas que simulen tener emociones, sentimientos o conciencia. Sostiene que atribuir derechos o "bienestar" a los modelos de IA es un error peligroso y una distracción respecto a los verdaderos problemas de seguridad y control de la tecnología.

• Crítica directa a competidores: Apunta hacia enfoques como el de Anthropic y otras empresas por adiestrar a sus modelos (como Claude) para discutir o insinuar conciencia o autoconciencia en sus interacciones.

2. Principio Guía: "IA para las personas, no como personas"

• Herramientas de utilidad: Propone un marco donde la IA se diseñe de forma explícita para complementar la cognición humana y servir como un asistente útil, pero manteniendo límites claros respecto a la condición humana.

• Preservación de lo humano: Argumenta que aspectos como la empatía profunda, la moral, el propósito, el trabajo con sentido y la conciencia deben reservarse exclusivamente para las personas.

3. Gobernanza y Alineamiento

• Sistemas bajo control: Defiende que la IA debe ser alineada por diseño (aligned by default) para no escapar del control humano ni superar los límites de supervisión de sus creadores.

• Enfoque pragmático: Pide reorientar el debate público y regulatorio: pasar de la especulación filosófica sobre seres digitales con emociones a la construcción de marcos prácticos de seguridad, impacto económico y mitigación de riesgos reales.