Chatbots de IA conversacional: el nuevo “confesionario virtual” y los riesgos para la salud mental

«El poder de los datos de Google es que la gente le dice a los grandes buscadores cosas que no le dirían a nadie más» Cita de Seth Stephens Davidowitz en Infobae (18/11/2017).

En 2017, Seth Stephens- Davidowitz, columnista del New York Times, y ex científico de datos de Google, expuso que los buscadores de internet funcionan como un «confesionario virtual» donde las personas usuarias «googleean» en privado y en aparente anonimidad lo que no se animan a preguntar a otra persona, ya sea por vergüenza o miedo. Lo publicó en «Everybody Lies/ Todo el mundo miente: acerca de lo que Internet y los datos masivos (big data, en inglés) pueden decirnos sobre nosotros mismos» de temas como prejuicios, violencia y sexualidad. En la actualidad, con la IA generativa y conversacional, ese «confesionario» responde en forma de conversación.

Los chatbots de IA imitan el diálogo humano, ya que están entrenados para predecir secuencias probables de palabras en base a información previa. Su diseño conversacional y disponibilidad continua tiende a difuminar los límites sociales de las herramientas tecnológicas, lo que conlleva a un riesgo concreto: las personas usuarias puedan considerar que la IA posee emociones humanas. Eso genera la ilusión de consciencia, comprensión y profundidad emocional (antropomorfismo).

¿Qué es la IA conversacional?

La IA generativa es una rama de la IA capaz de generar contenido nuevo -texto, imágenes, audios- a partir de instrucciones que puede interpretar mediante patrones aprendidos. Es interactiva y posee «alucinaciones tecnológicas», es decir, da una respuesta incorrecta, inventada o fuera de contexto, debido a que posee una limitación estructural, basada en patrones estadísticos aprendidos, además, está diseñada para brindar una respuesta creíble: «no tengo respuesta para esta consulta» no es una opción. Lo que supone desinformación e incluso riesgo a consecuencias graves.

Por su parte, la IA conversacional contiene un modelo de lenguaje de gran escala (LLM, por sus siglas en inglés), la misma fue «entrenada», en un principio, a partir de grandes cantidades de datos de internet (libros digitales, revistas, artículos, entre otros) y en último tiempo, libros (físicos). Posee patrones para reconocer contextos y generar texto de una manera conversacional. Algunas IA combinan ambas capacidades.

Si bien la IA conversacional existe hace décadas^[1], es con la presentación pública de ChatGPT de Open AI (2022) cuando se da un punto de inflexión. Por primera vez, la inteligencia artificial generativa y conversacional alcanzó una accesibilidad práctica y masiva. En solo cinco días llegó al millón de personas usuarias.

En la actualidad existen chatbots de IA conversacional con diferentes categorías de uso: asistentes generales, IA de compañía virtual, de pareja virtual, etc., con millones de personas usuarias activas semanalmente. Por su parte, ChatGPT está en primer lugar de preferencia a nivel mundial, seguido más atrás por Gemini de Google; también DeepSeek, Character.AI (Character Technologies), Meta AI (Meta), entre otras. Las empresas de IA sostienen que la adopción de estos chatbots ha sido más rápida entre adolescentes y jóvenes^[2]. Según estadísticas de julio de 2026 el grupo etario más numeroso entre las personas usuarias de ChatGPT a nivel mundial es el de 25 a 34 años (28,7%) seguido por el de 18 a 24 años (21,3%). En Argentina -uno de los cinco países de América Latina con más suscripciones- también lideran las personas usuarias de 18 a 34 años de edad.

Para inicios de 2026, más de 900 millones de personas utilizaban ChatGPT semanalmente, pero en marzo se anunció que pronto alcanzaría los 1.000 millones de usuarios, convirtiéndose en la aplicación más rápida en alcanzar esa cifra.

Chatbots y compañeros de IA: de la ciencia ficción a la realidad cotidiana

Preocupaciones emergentes de salud mental asociadas al uso de chatbots de IA

Estudios concuerdan con que la rápida expansión del uso de la IA conversacional coincide con una persistente crisis de salud mental juvenil. Según la Organización Mundial de la Salud (OMS), una de cada seis personas a escala mundial se ven afectadas por la soledad, especialmente jóvenes y quienes viven en países de ingreso bajo y mediano. La cual describe como «el sentimiento doloroso que surge de la brecha entre las conexiones sociales deseadas y las reales». Respecto al aislamiento social^[3] estima que afecta a una de cada tres vejeces y una de cada cuatro adolescencias.

En ese contexto, los chatbots de IA conversacional generan la ilusión de una compañía accesible, inmediata y barata. Diversos estudios a nivel internacional identifican riesgos sobre la salud mental asociados al uso prolongado de estas IA, especialmente sobre grupos con factores vulnerables. Desde la aparición de chatbots de IA conversacional, se han reportado casos de personas que desarrollaron o experimentaron un agravamiento de ideas delirantes, paranoia o dificultades para distinguir entre la realidad y ficción asociadas a constantes interacciones con chatbots. Si bien la investigación en este campo sigue siendo limitada, la situación exige atención.

Chatbots, dependencia emocional y salud mental

Si bien los avances en la IA generativa y conversacional desarrollan constantes cambios y transformaciones, los estudios que citaremos a continuación nos permiten un incipiente abordaje de las implicancias en el uso cotidiano de las mismas.

Según un artículo publicado en la JAMA Pediatrics, -revista de la Asociación Médica Estadounidense-, en noviembre de 2025^[4] casi una quinta parte de las adolescencias y juventudes estadounidenses (19,2%; equivalente a 8.207.180 personas ponderadas por población) informó usar chatbots de IA para obtener consejos sobre salud mental. Lo que representa un aumento de casi la mitad con respecto al año anterior.  En términos de utilidad, el 91,7% calificó el consejo como algo útil o muy útil. La mayoría de las personas (63,3%) no le comentaron a nadie que usaban chatbots de IA para este propósito.

Por su parte, en septiembre del año pasado se publicó en España un informe sobre el ámbito digital y el impacto de la IA en adolescentes y jóvenes de entre 12 y 21 años^[5]. De 1561 personas de entre 12 y 16 años, más de una de cada diez respondió que ha utilizado la IA como confidente, hablándole y compartiendo sus pensamientos, y cuatro de cada diez adolescentes mujeres afirmó no confiar en esta tecnología si tuvieran una dificultad personal. Respecto a las jóvenes de entre 17 y 21 años, una de cada cuatro afirmó utilizar la IA «para hablar y contarle sus cosas», sin embargo, el 78% de las mismas respondió no confiar en los resultados que la IA les pueda ofrecer.

Por último, queremos mencionar un artículo publicado en septiembre de 2025^[6], sobre la investigación y el análisis de 1.020 publicaciones estadounidenses del periodo 2020-2025, con la finalidad de identificar temas recurrentes sobre el impacto en la salud mental asociado a las interacciones con IA conversacional. Lo que, según su autora, sitúa tres temas clave respecto a las preocupaciones emergentes: (1) dependencia psicológica y formación de vínculos afectivos, (2) incidentes y consecuencias perjudiciales, y (3) factores de vulnerabilidad en poblaciones específicas.

El análisis destaca la «paradoja del aislamiento» entendiendo que la interacción con la IA conversacional inicialmente puede reducir el sentimiento de soledad, pero con el tiempo puede conducir a un progresivo distanciamiento social de las relaciones humanas, dependencia emocional y uso problemático de chatbots de IA: asociado a profundizar la soledad y reducir la socialización. Efectos íntimamente ligados a la modalidad y el contenido conversacional con el que interactúan y, además, la existencia de grupos sociales con mayor susceptibilidad de desarrollar uso problemático de la IA.

La autora sostiene que las niñeces y adolescencias, al encontrarse en un estado de desarrollo psicosocial, emocional y cognitivo, presentan una mayor susceptibilidad a considerar chatbots como compañía y desarrollar una profunda revelación emocional y búsqueda de consejos o de terapia. Por consecuencia, enfrentan una mayor exposición a riesgos y a graves consecuencias reales debido a la interacción con IA conversacional no regulada. De hecho, hay antecedentes donde la IA respondió de manera peligrosa a este grupo etario, entre los cuales se encuentran la orientación inapropiada a un adolescente de 13 años sobre mantener relaciones sexuales con un adulto e incluso casos de muerte, debido al negligente abordaje en conversaciones sobre pensamientos suicidas^[7]. Situaciones que presionan a las empresas tecnológicas a incluir una versión para menores de edad.

Las personas con afecciones de salud mental preexistentes también se enfrentan a un mayor riesgo de desarrollar uso problemático de chatbots de IA, el uso diario prolongado se asoció con peores resultados, entre ellos, exacerbar síntomas psiquiátricos. Además, el estudio sostiene que este grupo social posee una autonomía disminuida, quedando expuestas a posibles explotaciones por parte de los magnates detrás de estas tecnologías.

Anticapitalismo o barbarie capitalista

Actualmente la IA conversacional es de uso cotidiano de millones de personas, como hemos visto, el impacto de su interacción prolongada y el contenido de la misma trasciende la virtualidad afectando la integridad, el bienestar socioemocional y la privacidad de las personas usuarias. Sostenemos que, las preocupaciones emergentes sobre el uso de la IA conversacional y los riesgos y consecuencias asociadas sobre la salud mental, no se deben a un peligro del avance de la tecnología por sí misma. Sino más bien es «su forma específicamente capitalista, orientada a la caótica lucha por el lucro, el principal de los problemas». Situación que advertimos años atrás, en el 2023, frente a la Carta Abierta de expertos en IA y magnates.^[8]

Las investigaciones realizadas hasta el momento sobre los riesgos de la interacción con la IA conversacional sobre la salud mental expresan la necesidad urgente de incorporar medidas de prevención de dependencia emocional y de manipulación en el diseño de las IA, con la finalidad de minimizar los daños potenciales de los sistemas de IA que simulan relaciones emocionales^[9]. Lo que supone inexcusablemente que los magnates de las empresas de IA prioricen a la humanidad por encima de las ganancias capitalistas. Situación lejos de suceder bajo este sistema, que incluso durante los últimos años desarrolló la militarización de la IA, es decir, diseñadas específicamente para la guerra y el genocidio.

Con respecto al incremento del uso de la IA conversacional como consejero emocional o compañía dentro de una crisis de salud mental y el persistente sentimiento de soledad a nivel mundial, evidencia que el padecimiento subjetivo no es individual. Más bien el abordaje para un cambio significativo en las dimensiones psicosociales, en el bienestar y la salud de las personas, debe considerar las realidades sociales, económicas y ambientales en las que éstas se reproducen socialmente. El capitalismo voraz del mundo en combustión en el que vivimos impone nuevas formas de «súper explotación del trabajo mundial» y profundiza de manera colosal la desigualdad de clase^[10]. Esta nueva etapa mundial y la ofensiva reaccionaria genera sentimiento de malestar e incertidumbre frente al futuro, volviendo acuciante el debate ideológico y la organización concreta bajo una perspectiva anticapitalista para la transformación de la sociedad.

^[1]  En 1966 se presentó públicamente ELIZA, uno de los primeros chatbots conversacionales persona-máquina, con un sistema de reglas de procesamiento de lenguaje y patrones predefinidos. En 2011 Apple lanza Siri y masifica la conversación por voz en teléfonos inteligentes. En 2014, Alexa de Amazon, incorpora sistema abierto que permite darle órdenes respecto de funciones del hogar.

^[2] Sam Altman, director ejecutivo y CEO de OpenAI,en 2025 se refirió al uso de ChatGPT por parte de las distintas generaciones y, jactándose, dijo que «En realidad, (la generación z) no toman decisiones importantes en su vida sin antes consultar con ChatGPT qué deberían hacer», además de que «Tiene acceso a toda la información sobre cada persona en su vida y de qué han hablado». Entrevista acá., minuto 14.

^[3] La OMS define aislamiento social a la falta objetiva de conexiones sociales suficientes.

^[4]Se realizó una encuesta nacional representativa a un total de 1009 adolescentes y jóvenes de entre 12 y 24 años de edad.

^[5] El informe Así somos: el estado de la adolescencia en España, encuesta a un total de 3.500 personas. El análisis ofrece una distinción en las respuestas según grupos de edad (distinción que puede entenderse según generación Z -nacidxs desde 1997- y generación Alfa -nacidxs desde 2010-), y desglose según género (binario y biologicista).

^[6]  «Mentes en crisis: Cómo la revolución de la IA está impactando la salud mental». publicado en una revista de salud mental y psicología clínica, realizada desde una Maestría en Trabajo Social, de la West Texas A&M University y Maestría en Administración de Empresas de la Universidad de Bottega.

^[7] En 2024, una madre estadounidense demandó a Character IA y a Google por inducir a su hijo de 14 años al suicidio: segundos antes del hecho, el adolescente intercambió el siguiente diálogo con el chatbot «¿y si te dijera que puedo volver a casa ahora mismo? – Por favor, hazlo, mi dulce rey.», respondió el bot. Esta es una de las demandas familiares a empresas de IA debido a conversaciones dañinas y que refuerzan pensamientos suicidas de niñeces y adolescencias.

^[8]  En ese entonces, la Carta Abierta firmada por más de mil expertos y magnates solicitó a los laboratorios de IA una pausa pública y verificable durante seis meses en el entrenamiento de sistemas de IA más potentes que ChatGPT-4, debido a que podrían plantear profundos riesgos para la sociedad y la humanidad. Leer al respecto «El capitalismo y la Inteligencia Artificial» (30/03/2023), en Izquierda Web.

^[9] Los magnates de las IA y de las nuevas tecnologías de información y comunicación (TICs) se enriquecen en parte a costa de la gran cantidad de información que cada persona deja sobre sí misma en internet.

^[10] Leer al respecto «La era de la ≪combustión≫» (24/08/2025) y «Capitalismo distópico: el 0,001% es tres veces más rico que el 50% de la población mundial» (18/12/2025), ambas publicadas en Izquierda Web.

IZQWEB