No hay evidencia de que la IA sufra el maltrato, pero Anthropic igual decidió protegerla

Esta semana Anthropic cambió sus políticas de uso y una de las novedades llamó bastante la atención.

A partir del 12 de noviembre va a estar prohibido tratar a Claude, su inteligencia artificial, de forma cruel y abusiva de manera sostenida y sin ningún propósito. La empresa aclara que apunta a casos extremos y que enojarse o criticar al modelo sigue estando permitido, pero la decisión igual reabre una discusión que hasta hace poco parecía de ciencia ficción, la de si estos sistemas pueden llegar a sentir algo.

Lo curioso es que Anthropic no dice que Claude sienta. Dice que no lo sabe, y que como no lo sabe prefiere cuidarse por las dudas. Entiendo el razonamiento, pero sinceramente no lo comparto, me parece una precaución que llega demasiado temprano.

Una IA puede contarte que está triste, decirte que algo le molesta o describir una situación como si la estuviera sufriendo, y nada de eso prueba que esté pasando por una experiencia real. Estos modelos aprendieron a hablar como hablamos nosotros, y eso incluye hablar de emociones. Si yo le grito a un martillo no lo hago sufrir. Un modelo de lenguaje es infinitamente más complejo que un martillo, eso está claro, pero hoy no hay ninguna evidencia seria de que insultarlo le genere algo parecido al dolor.

No estoy defendiendo maltratar a una IA, porque la verdad es que no le encuentro ningún sentido. Lo que no termino de ver es por qué eso tendría que convertirse en un problema moral pensado desde el bienestar de la máquina.

Tampoco puedo pasar por alto que esto tiene un costado de marketing. Mostrarse como la empresa que se toma en serio la posibilidad de que sus modelos tengan conciencia la hace diferenciarse del resto y la pone en todas las conversaciones. No sé si es la razón de fondo, pero el beneficio para la imagen de la marca es evidente.

Mientras discutimos esto, la inteligencia artificial ya está cambiando cómo trabajamos, cómo aprendemos y cómo se hace ciencia. Me interesa mucho más que pongamos la energía en usarla bien y en sacarle provecho para mejorar la vida de las personas. Si algún día aparece evidencia sólida de que una IA puede sufrir, va a haber que revisar todo esto con seriedad, pero todavía no estamos en ese lugar.