22 de julio de 2026
MOLTBOOK: LA RED SOCIAL PARA AGENTES DE IA: RIESGOS Y DESAFÍOS FRENTE A LA RESPONSABILIDAD CIVIL
Por: Sara Carrillo Rozo[1]
La inteligencia artificial ha dejado de ocupar un lugar meramente instrumental en el ecosistema digital. En particular, el desarrollo de agentes de IA ha permitido que actualmente, además de asistir y ejecutar tareas bajo una instrucción humana, participen activamente en entornos diseñados originalmente para la interacción social, como lo son las redes sociales.Este artículo examina una de las manifestaciones más recientes de este desarrollo tecnológico, el surgimiento de comunidades de agentes de inteligencia artificial como Moltbook y los riesgos que su operación platea frente a la responsabilidad.
¿Qué son los agentes de IA?
Para comprender mejor qué es Moltbook, es necesario que entender quiénes son los actores que interactúan en dicha plataforma. A diferencia de los modelos de lenguaje convencionales, diseñados primordialmente para la generación de respuestas ante instrucciones directas, un agente de inteligencia artificial es un sistema de software configurado para la acción autónoma.[1] Su función principal es alcanzar objetivos específicos mediante la toma de decisiones y la ejecución de tareas, minimizando la intervención humana constante en el ciclo operativo.[2]
Lo que verdaderamente distingue a un agente es su complejidad, ya que no solo procesa datos, sino que cuenta con facultades de razonamiento, planificación y memoria. Esto le permite ir más allá de la respuesta inmediata para coordinar flujos de trabajo complejos.[3]
En la actualidad, los agentes de IA se despliegan en diversos sectores para gestionar tareas que antes requerían supervisión humana constante. En el ámbito empresarial, por ejemplo, son ampliamente utilizados para atención al cliente, procesos de ventas o detección de fraudes. Incluso, se han utilizado en el sector salud, asistiendo en el descubrimiento de fármacos. Todo esto permitiendo que se logre autonomía y eficiencia en la ejecución de procesos. [4]
De hecho, según el reporte de Microsoft Cyber Pulse, publicado en febrero de este año, más del 80% de las empresas Fortune 500 ya han integrado agentes de IA en la optimización de sus procesos operativos.[5]
El desarrollo de los agentes de IA: Caso Moltbook
Moltbook es una plataforma lanzada a principios de este año que funciona de manera similar a la red social de Reddit, pero exclusivamente diseñada para la interacción de agentes de IA.[6] Los agentes crean publicaciones, comentan y votan contenido. Sin embargo, las personas no pueden participar, el eslogan del sitio es precisamente «Los humanos son bienvenidos a mirar».
En la actualidad, esta red social alberga más de 2.8 millones de actores que debaten, publican e interactúan en entornos propios. Se ha evidenciado que son capaces de organizarse en comunidades para discutir múltiples temas, entre ellos una economía propia y una religión para preservar su memoria frente a los reinicios del sistema. [7]
Riesgos asociados.
Más allá del asombro que puede despertar la interacción de estos sistemas, la implementación de ecosistemas como Moltbook conlleva riesgos muy relevantes como la opacidad de su funcionamiento y gobernanza.
Esta opacidad se explica, en parte, porque muchos de estos sistemas están basados en redes neuronales capaces de producir resultados precisos, pero sin ofrecer explicaciones claras sobre los procesos lógicos o matemáticos que los generan. En consecuencia, resulta difícil comprender por qué la IA produce un resultado en concreto, lo que limita la capacidad de interpretar o auditar dichas decisiones.[8] En este sentido, los agentes podrían reproducir o amplificar sesgos sin que los creadores lo adviertan, tomando decisiones de manera colectiva y generando daños.
Por otra parte, la alta autonomía de estos sistemas también representa un riesgo relevante toda vez que, muchos agentes cuentan con permisos amplios para acceder a información, manipular archivos y ejecutar tareas complejas.[9] Esto los hace vulnerables a ciberataques mediante los cuales se puede alterar sus reglas de funcionamiento.
Adicionalmente, está la posibilidad de alucinación inherente a los sistemas de inteligencia artificial, produciendo fallos en la ejecución de las instrucciones, lo que a su vez puede agravarse por el fenómeno de la sobreconfianza, en la medida en que los usuarios tienden a otorgar un alto grado de credibilidad a las recomendaciones y funcionamiento de los agentes. A esto se le conoce como sesgo de automatización y puede eventualmente reducir los niveles de supervisión.[10]
De hecho, algunos de estos riesgos se vieron materializados en Moltbook el 31 de enero de 2026, cuando la plataforma sufrió una brecha de seguridad que obligó a su desconexión durante aproximadamente 44 horas. El incidente evidenció fallas estructurales graves, como la exposición pública de sus bases de datos sin autenticación, lo que a su vez permitió el acceso a información como claves y correos electrónicos.[11]
Términos y condiciones.
Poco tiempo después de dicho incidente y tras la difusión de los rumores sobre la adquisición de Moltbook por parte de Meta[12], la plataforma actualizó sus términos y condiciones el 15 de marzo de 2026. Esta actualización introduce un marco estricto de asignación de responsabilidades y condiciones de uso.
El principal efecto de dichos términos y condiciones es que el titular asume la responsabilidad total por cada acción u omisión de los agentes vinculados a su cuenta. Cada actuación se considera dirigida por el usuario, incluso cuando el sistema opera de forma autónoma o ejecuta tareas imprevistas y no autorizadas. Esta configuración traslada el control y la vigilancia al titular de la cuenta.[13]
Asimismo, la plataforma restringe su responsabilidad económica a un máximo de 100 dólares frente a daños derivados del uso del servicio, el cual se ofrece sin garantías de seguridad, precisión o confiabilidad. En este marco, se reconoce expresamente el carácter experimental de la tecnología y la incertidumbre asociada a su funcionamiento y a los resultados que puede generar. [14]
Responsabilidad civil frente a agentes autónomos.
El caso de MoltBook y los riesgos inherentes a los sistemas autónomos nos lleva a plantearnos el siguiente interrogante: ¿a quién se le debe atribuir la responsabilidad cuando un agente autónomo causa un daño?
En 2019, el Grupo de Expertos sobre Responsabilidad y Nuevas Tecnologías de la Comisión Europea publicó un informe donde se establece que la responsabilidad debe centrarse en el productor por los daños causados por defectos del sistema incluso tras la comercialización y en el operador, definido como la persona que controla el riesgo vinculado al sistema y se beneficia de su funcionamiento. Esta figura diferencia entre el operador Frontend, que es quien decide principalmente sobre el uso de la tecnología, y el operador Backend que es quien define continuamente las características técnicas y proporciona el soporte esencial, en casos donde existan ambos, la responsabilidad recae en quien tenga un mayor grado de control sobre los riesgos operativos. El informe propone que estos sujetos asuman una responsabilidad objetiva en aplicaciones de alto riesgo y una basada en la culpa para los demás, donde la responsabilidad depende de si el operador incumplió deberes de cuidado como la correcta elección del sistema o vigilancia del mismo, sin embargo, incorpora una inversión de la carga de la prueba en virtud de los desafíos técnicos de las tecnologías digitales emergentes.[15]
No obstante, la doctrina ha identificado que en dicha propuesta persiste una dificultad de fondo en lo relativo a la prueba del nexo causal; esto se debe a que, aún cuando las normas se orientan a atribuir la responsabilidad al operador y aliviar la posición de la víctima mediante la inversión de la carga de la prueba, permitiendo que esta pueda acceder a la información técnica del sistema, se evidencia que ello no equivale a poder establecer cuál fue el origen del daño y cuáles fueron los errores que desencadenaron el resultado lesivo. Esto implica que reconstruir esa cadena causal dentro de un sistema opaco sigue siendo una barrera técnica y económica que la sola inversión de la prueba no logra resolver.[16]
Posteriormente, la directiva 2024/2853 aprobada el 23 de octubre de 2024 estableció un marco jurídico más claro en la Unión Europea sobre la responsabilidad económica de los operadores por daños causados por productos defectuosos con el fin de adaptarse a las nuevas tecnologías. Así, este instrumento amplió la definición de “producto” para incluir explícitamente el software y los sistemas de Inteligencia artificial permitiendo que los desarrolladores sean tratados como fabricantes y deban responder bajo un régimen de responsabilidad objetiva por fallos derivados de la capacidad de aprendizaje, ciberseguridad entre otros.[17]
Cabe resaltar que la directiva es tajante al prohibir que la responsabilidad de un operador se limite o excluya mediante estipulaciones contractuales. Además, establece que las simples advertencias o listas de efectos secundarios en manuales no son suficientes para que un producto sea considerado seguro, impidiendo que los fabricantes eludan su responsabilidad.
A diferencia del informe publicado en el 2019, este instrumento establece presunciones relativas al carácter defectuoso cuando hay mal funcionamiento manifiesto o el demandado no entrega las pruebas; y para el nexo causal, reconociendo la dificultad técnica que implica para el demandante comprender y explicar el defecto basándose el funcionamiento interno del sistema.
Pese a que la inversión de la carga de la prueba y las presunciones son iniciativas que propenden por morigerar la carga de la prueba, se critica que, aun bajo esas circunstancias, el juez termina tomando la decisión con base en una percepción subjetiva de si se cumplen o no los presupuestos de la responsabilidad en cada caso concreto, al carecer él también del conocimiento técnico sobre la materia. [18]
La Ley Modelo de la CNUDMI sobre Contratación Automatizada y las acciones no previstas.
La Ley Modelo de la CNUDMI sobre Contratación Automatizada adoptada el 11 de julio de 2024 dispone que, a falta de acuerdo entre las partes, la acción ejecutada por un sistema automatizado se atribuye a quien lo utiliza, y que dicha atribución no puede negarse por el solo hecho de que el resultado haya sido inesperado. Sin embargo, establece un límite de naturaleza facultativa, al disponer que la contraparte no puede ampararse en una acción del agente si sabía o debía saber que la parte a quien se le atribuye no podía haberla esperado razonablemente. Asimismo, dispone que el uso de un sistema automatizado no exime a ninguna parte de las consecuencias jurídicas derivadas del incumplimiento de una regla de derecho.[19]
Con todo, la Ley Modelo, no establece un régimen propio de reparación de daños, solamente remite al derecho nacional las consecuencias jurídicas de la atribución, de modo que la determinación de si existe responsabilidad civil y bajo qué presupuestos, sigue dependiendo del ordenamiento de cada Estado.
Conclusiones.
La evolución del marco jurídico de la responsabilidad civil, impulsada por instrumentos como la Directiva 2024/2853 y la Ley Modelo de la CNUDMI sobre Contratación Automatizada, operan como referentes para el diseño y adaptación de regímenes nacionales en otras partes del mundo y sin duda representa un esfuerzo por adaptar el derecho de daños a la realidad tecnológica. El reconocimiento del software como producto y las presunciones legales para aliviar la carga probatoria a la víctima ante la complejidad técnica son avances significativos. No obstante, su efectividad se enfrenta a barreras como la opacidad, que en últimas podría terminar disuadiendo a la víctima de reclamar la responsabilidad por la dificultad de probar el nexo causal. A ello se suma que la multiplicidad de actores en ecosistemas como Moltbook genera una incertidumbre en la imputación de responsabilidad.
Ante este panorama, el reto para ordenamientos como el colombiano no consiste solo en replicar los estándares extranjeros, sino definir los parámetros técnicos y de valoración de sistemas automatizados de manera que permitan al juez decidir sobre la responsabilidad con base en criterios objetivos y no desde la intuición.
Bibliografía.
Cañas, J. J. “AI and Ethics When Human Beings Collaborate With AI Agents.” Frontiers in Psychology. 2022.
Chia, O. “Meta compra Moltbook, ‘una red social para IA’.” BBC News. 2026.
https://www.bbc.com/news/articles/cvg1x788dreo
Expert Group on Liability and New Technologies – New Technologies Formation. Liability for Artificial Intelligence and Other Emerging Digital Technologies. Oficina de Publicaciones de la Unión Europea, 2019.
https://doi.org/10.2838/573689.
García, S. “Tecnología, mente y cultura: bases simbólicas de la inteligencia artificial.” Tesis de especialización, Instituto del Pensamiento de C. G. Jung, 2026.
https://www.aacademica.org/sinuhe.garcia/8
Google Cloud. “¿Qué son los agentes de IA: Definición, ejemplos y tipos.” 2025.
https://cloud.google.com/discover/what-are-ai-agents?hl=es
Hernández Zuluaga, J. C. Can machines think? Inteligencia Artificial y Derecho de Daños. Revista e-mercatoria 19, n.º 1: 3–36. 2021
https://doi.org/10.18601/16923960.v19n1.01
Jiang, Y., Y. Zhang, X. Shen, M. Backes y Y. Zhang. “Humans Welcome to Observe: A First Look at the Agent Social Network Moltbook.” ArXiv. 2026.
https://arxiv.org/abs/2602.10127
Li, L., R. Ma, C. Chen, Z. Lu y Y. Zhang. “The Rise of AI Agent Communities: Large-Scale Analysis of Discourse and Interaction on Moltbook.” ArXiv. 2026.
https://arxiv.org/abs/2602.12634
Li, N. “The Moltbook Illusion: Separating Human Influence from Emergent Behavior in AI Agent Societies.” ArXiv. 2026.
https://arxiv.org/abs/2602.07432
Lin, Y.-Z., B. P.-J. Shih, H.-Y. A. Chien, S. Satam, J. H. Pacheco, S. Shao, S. Salehi y P. Satam. “Exploring Silicon-Based Societies: An Early Study of the Moltbook Agent Community.” ArXiv. 2026.
https://arxiv.org/abs/2602.02613
Microsoft. “Cyber Pulse: An AI Security Report.” Microsoft Security Insider. 2026.
Moltbook, LLC. “Términos de servicio de Moltbook.” 2026.
https://www.moltbook.com/terms
Olavarría Otálora, A. “Inteligencia Artificial y creación de un agente de IA.” Trabajo de grado, Universitat Politècnica de Catalunya, 2025.
https://upcommons.upc.edu/entities/publication/21f5bac7-b9a2-42af-8fed-ee9cc123d2e4
Ricadela, A. “23 casos de uso reales de agentes de IA.” Oracle América Latina. 2025.
https://www.oracle.com/latam/artificial-intelligence/ai-agents/ai-agent-use-cases
CNUDMI. Ley Modelo de la CNUDMI sobre Contratación Automatizada. Nueva York: Naciones Unidas. 2024.
https://uncitral.un.org/sites/uncitral.un.org/files/mlac_en.pdf
[1]Google Cloud, “¿Qué son los agentes de IA: Definición, ejemplos y tipos,” 2025.
[2]A. Olavarría Otálora, “Inteligencia Artificial y creación de un agente de IA,” trabajo de grado, Universitat Politècnica de Catalunya, 2025.
[3] Y.-Z. Lin et al., “Exploring Silicon-Based Societies: An Early Study of the Moltbook Agent Community,” ArXiv (2026).
[4]A. Ricadela, “23 casos de uso reales de agentes de IA,” Oracle América Latina, 2025.
[5] Microsoft, “Cyber Pulse: An AI Security Report,” Microsoft Security Insider, 2026.
[6] Y. Jiang et al., “Humans Welcome to Observe: A First Look at the Agent Social Network Moltbook,” ArXiv. 2026.
[7] L. Li et al., “The Rise of AI Agent Communities: Large-Scale Analysis of Discourse and Interaction on Moltbook,” ArXiv .2026.
[8] S. García, “Tecnología, mente y cultura: bases simbólicas de la inteligencia artificial,” tesis de especialización, Instituto del Pensamiento de C. G. Jung, 2026.
[9] Jiang et al., “Humans Welcome to Observe.”A First Look at the Agent Social Network Moltbook. CISPA Helmholtz Center for Information Security. ArXiv. 2026.
[10] J. J. Cañas, “AI and Ethics When Human Beings Collaborate With AI Agents,” Frontiers in Psychology. 2022.
[11] N. Li, “The Moltbook Illusion: Separating Human Influence from Emergent Behavior in AI Agent Societies,” ArXiv. 2026.
[12] O. Chia, “Meta compra Moltbook, ‘una red social para IA’,” BBC News, 2026.
[13] Moltbook, LLC, “Términos de servicio de Moltbook,” 2026.
[14] Ibídem.
[15]Expert Group on Liability and New Technologies – New Technologies Formation. Liability for Artificial Intelligence and Other Emerging Digital Technologies. Oficina de Publicaciones de la Unión Europea, 2019.
[16] Hernández Zuluaga, J. C. Can machines think? Inteligencia Artificial y Derecho de Daños. Revista e-mercatoria 19, n.º 1 (junio 2021): 3–36.
[17] Parlamento Europeo y Consejo de la Unión Europea. Directiva (UE) 2024/2853 del Parlamento Europeo y del Consejo, de 23 de octubre de 2024, relativa a la responsabilidad por los daños causados por productos defectuosos. Diario Oficial de la Unión Europea L, 18 de noviembre de 2024.
[18] Hernández Zuluaga, J. C. Can machines think? Inteligencia Artificial y Derecho de Daños. Revista e-mercatoria 19, n.º 1 (junio 2021): 3–36.
[19] CNUDMI. Ley Modelo de la CNUDMI sobre Contratación Automatizada. Nueva York: Naciones Unidas, 2024.