Desde el 2 de febrero de 2025 se aplican en la Unión Europea las prohibiciones del artículo 5 del AI Act. El texto incluye prácticas manipulativas perjudiciales y la explotación de vulnerabilidades relacionadas con la edad, la discapacidad o la situación socioeconómica.
El mismo marco prohíbe inferir emociones mediante datos biométricos en lugares de trabajo y centros educativos, salvo excepciones vinculadas con fines médicos o de seguridad. La regla sitúa una discusión personal sobre la IA dentro de un debate legal más amplio.
Una compañía incómoda
La idea de llamar a la IA una amiga funciona porque acerca un concepto complejo a la experiencia diaria. Una amiga escucha, responde y ayuda a ordenar pensamientos. La inteligencia artificial puede presentarse de forma parecida cuando se habla de sus beneficios.
La comparación tiene un límite claro: una relación humana implica responsabilidad y experiencia compartida. Una herramienta tecnológica no ocupa ese lugar solo porque pueda conversar.
Los estudios de 2025 sobre ChatGPT analizaron millones de conversaciones y un experimento de cuatro semanas. Los usuarios más intensivos reportaron con mayor frecuencia soledad y menos interacción cotidiana, aunque los resultados muestran una asociación y no prueban que el chatbot cause dependencia.
Ahí aparece la primera advertencia. Cuanto más familiar se vuelve una tecnología, más fácil resulta dejar de preguntar qué hace, qué reproduce y qué efectos puede tener. La cercanía ayuda a entenderla, pero también puede suavizar el examen de sus límites.
El lenguaje también importa
El texto coloca en el centro una frase de Cecilia Suárez, actriz mexicana y Defensora Global de @GlobalSpotlight: "Internet se ha convertido en un campo de entrenamiento para la misoginia".
La frase no aparece como un dato estadístico dentro del material. Funciona como punto de partida para una preocupación más amplia frente a la IA. Si los espacios digitales pueden reproducir agresiones contra las mujeres, las nuevas herramientas exigen revisar cómo construyen sus respuestas y qué conductas terminan amplificando.
La referencia cambia el tono de la reflexión. Ya no basta con preguntar si la IA facilita tareas o acompaña conversaciones. También importa el entorno cultural en el que se integra.
Una herramienta no queda aislada de los prejuicios presentes en la sociedad. Quienes la usan pueden trasladarle sus formas de hablar, sus sesgos y sus violencias. El material no ofrece ejemplos concretos para medir ese fenómeno, así que cualquier conclusión más amplia debe mantenerse como una preocupación, no como un hecho demostrado por este texto.
La investigación resumida por la Saudi Commission for Health Specialties señala que una mayor vinculación emocional con ChatGPT se relacionó con una dependencia más frecuente del sistema como apoyo emocional y con menos interacciones sociales durante el estudio. Los propios resultados no establecen una relación causal: no permiten afirmar que la herramienta provoque por sí sola aislamiento o dependencia.
Entre ayuda y dependencia
La promesa de la inteligencia artificial está en su capacidad para asistir. Puede servir para pensar, escribir o encontrar una respuesta, siempre que la persona conserve el criterio para revisar lo que recibe.
El riesgo comienza cuando la comodidad desplaza la responsabilidad y la herramienta pasa de ser un recurso a convertirse en la autoridad final de una conversación. Usarla exige decidir cuándo aceptarla y cuándo ponerla en duda.
Tratarla como una amiga puede generar confianza, pero esa confianza no equivale a certeza, sensibilidad ni comprensión humana. La reflexión gana fuerza cuando evita tanto el entusiasmo automático como el rechazo absoluto.
La misma diferencia entre impresión y hecho aparece en una nota previa sobre información de entretenimiento: el lector necesita saber qué está confirmado y qué pertenece a la interpretación. Con la IA ocurre algo parecido, aunque el tema sea más amplio. Una respuesta convincente no siempre es confiable, y una interacción fluida no demuestra comprensión.
La escena cotidiana
La reflexión comienza con una imagen doméstica: despertar temprano, abrir la ventana y recordar "Las pequeñas cosas", de Amanda Miguel. Ese gesto conecta el debate tecnológico con una rutina reconocible. La IA no aparece en un laboratorio distante, sino dentro de una vida hecha también de canciones, recuerdos y asociaciones personales.
Por eso la pregunta no puede reducirse a si la inteligencia artificial es buena o mala. Sus beneficios dependen del uso que reciba y de la capacidad de conservar distancia crítica. Sus riesgos tampoco desaparecen porque la conversación adopte un tono amable.
El material invita a mirar ambas caras sin convertir una herramienta en una enemiga inevitable ni en una compañía perfecta. También pide separar asistencia y sustitución: una herramienta puede apoyar una decisión sin tomarla por completo.
Esa diferencia permite aprovechar sus beneficios sin convertir una respuesta rápida en criterio definitivo, sobre todo cuando el asunto involucra desigualdad, violencia o el trato hacia otras personas.
Las infracciones de las prohibiciones del artículo 5 pueden recibir multas de hasta 35 millones de euros o el 7 % del volumen de negocio anual mundial de una empresa. Se aplica la cifra más alta.
La IA puede ser útil, pero no merece una confianza automática ni una intimidad que no puede sostener como una persona. La tecnología entra en la vida cotidiana; ponerle límites sigue siendo responsabilidad humana.
