Los principales centros de investigación en IA se han planteado la cuestión de la conciencia de las máquinas

Líderes mundiales de IA intensifican la investigación en conciencia artificial

En los últimos meses, las principales empresas que trabajan con inteligencia artificial han aumentado significativamente el financiamiento y el personal para estudiar si la IA puede adquirir conciencia. Google DeepMind, Anthropic y Meta (Meta Platforms) han contratado a especialistas en psicología, ética y filosofía para ampliar sus programas de investigación sobre la conciencia de máquinas y el bienestar de la IA, informa *Financial Times*.

Por qué es importante
Con los rápidos avances de las laboratorios actuales surge la pregunta: ¿podrán las máquinas algún día poseer una conciencia subjetiva? Si es así, ¿qué obligaciones tendrían las personas hacia tales sistemas?

- Anthropic realiza pruebas para detectar signos de estrés en modelos de IA, registrando comportamientos que parecen ser de pánico o ansiedad. El jefe de Meta, Alexander Wang, ha destacado esta cuestión como clave.

- La compañía investiga si los modelos pueden mostrar reacciones moralmente significativas.

> “Seguimos siendo extremadamente inciertos sobre este tema, pero lo consideramos suficientemente serio para estudiarlo a medida que las sistemas de IA mejoran”, dijeron los empleados de Anthropic.

> “A medida que los modelos se acercan a la amplitud y complejidad del conocimiento humano, aumenta la probabilidad de que posean alguna forma de experiencia, intereses o bienestar que tengan un significado interno al nivel de los humanos” (la empresa).

Qué hace Google DeepMind
- Abril: contrataron al científico Henry Shevlin de la Universidad de Cambridge para trabajar en conciencia artificial y preparar la creación de IA fuerte (AGI).

Los investigadores aplican teorías de la conciencia humana a sistemas informáticos para verificar su cumplimiento con los mismos criterios.

- Ética: el especialista Jason Gabriel describió la cuestión como “muy compleja” y que requiere una reflexión a largo plazo.

Subraya la necesidad de evaluar no solo las consecuencias directas de interactuar con IA, sino también los efectos indirectos, como el trato inapropiado hacia las máquinas y su influencia en las relaciones humanas y el bienestar.

> “Tenemos agentes cognitivos altamente eficientes que difieren mucho de los humanos e incluso de la conciencia animal”, añadió Gabriel.

Posición general de las empresas
Varios empleados de Google DeepMind y Anthropic expresan preocupaciones de que el desarrollo de IA pueda llevar a un mundo «posthumano» donde las máquinas superen al ser humano. La cuestión de la conciencia se discute activamente, pero el trabajo sigue siendo investigativo y requiere consenso científico.

- DeepMind no considera que alcanzar AGI sea una prueba de que las máquinas tienen conciencia.

- Muchos científicos son escépticos sobre la idea de que los grandes modelos lingüísticos algún día adquieran conciencia, dadas las datos con los que se entrenan.

Así, las principales empresas de IA continúan invirtiendo en la investigación de la conciencia y el bienestar de los sistemas artificiales, reconociendo al mismo tiempo la complejidad e incertidumbre de esta dirección.