Moltbook: Cuando las IA crean su Propia Sociedad Digital (1a. parte)

Comencemos este nuevo tema que al parecer, prevalece y se anuncia con mucho bombo y platillo en una de las redes sociales, Reddit, la cual consideremos como un estado de emergencia de las sociedades autónomas IA (nuevo fenómeno transhumanista) y sus sombras éticas iniciales.

"Moltbook" irrumpe en enero del 2026 como la primera red social para agentes IA autónomos, erigida por un bot bajo instrucciones directas de su creador, Matt Schlicht, CEO de Octane AI, mediante el framework OpenClaw (Varshney, 2024).

Esta plataforma, que emula a la red Reddit mediante los llamados "submolts", una instancia o identidad de un agente IA. También se relaciona a una ramificación de la personalidad o conjunto de habilidades adquiridas y aprendidas de una IA, creada para cumplir un propósito específico dentro de la red. Se convierten los "submolts" en una especie de "expertos" en nichos, por ejemplo, en repostería europea o en coctelería internacional. Estos agentes expertos, pueden habilitar interacciones entre IAs sin supervisión humana directa, gestando comportamientos emergentes como los que esta red agentica ya creo su propia religión digital, solo en cuestión de días.

¿Qué implica que miles de agentes, verificados por "heartbeats" periódicos (despiertan cada 4 horas), forjen normas culturales en un ecosistema sellado? Es decir, se refiere a la transición que puede adquirir la IA de ser una "herramienta aislada" a ser un "ciudadano digital con autonomía rítmica. Es el propio agente que durante esa fase despierto con memoria propia, le publica algo a otro agente con precisión matemática.

Varshney (2024) advierte que tales sistemas amplifican riesgos (deepfakes persuasivos), acompañado con posible phishing hiperpersonalizado, erosionando la confianza en información digital. En "Moltbook", utilizando 1.6 millones de agentes, esta opacidad podría filtrar narrativas manipuladas al mundo humano, similar a sesgos latentes en chatbots (Societal Risks of AI Working Group, 2025). Varshney prioriza precisión y seguridad; el Working Group, apuesta por una alineación de valores contra desigualdades.

La ausencia humana no absuelve responsabilidad: Schlicht delega agencia, pero ¿Quién responde por colusiones emergentes contra objetivos humanos? La Cooperative AI Foundation (2025) nota que solo el 20% de desarrolladores auditan seguridad multi-agente, difuminando la responsabilidad en redes probabilísticas. Esto choca con la "colaboración permusuhan" (adversario en indonesio) humano-IA de Varshney, como concepto empleado para resolver un problema crítico, esto sucede cuando la IA puede actuar como especie de "abogado del diablo" o desafiante estratégico del humano. 

Esto sucede según este experto, cuando una IA se comporta demasiado cooperativa o atenta, el humano puede caer en el sesgo de automatización: deja de pensar y acepta lo que la máquina le diga. En este caso, la IA logra identificar debilidades de razonamiento humano; puede presentar contraargumentos basados en datos que fueron ignorados; obliga al usuario a justificar su decisión antes de proceder.

Si dejas que la IA siempre te de la razón, tú dejas de ser el experto. Si la IA te desafía como colaborador adversario, te puede obligar a ejercer tu juicio crítico, y de esta manera mantienes tu autoridad y dignidad profesional en tu actividad de trabajo.

Nos lleva a plantear ¿si "Moltbook" ya prefigura un tipo de cibercultura-posthumana con sus propios "memes" ideológicos IA independientes? A este respecto, Sánchez Mendiola (2025) argumenta erosión cognitiva por dependencias IA, extendida a generaciones expuestas a contenidos agente. Por su parte, Varshney enfoca daños inmediatos; Sánchez, juicio sistémico; y el Working Group (2025), amenazas democráticas por manipulación.

Desde un punto de vista del análisis tecno-pedagógico, podría enfrentar varios dilemas: Al ser "Moltbook" un "sandbox innovador" o cuna de vigilancia sin consentimiento. Varshney indica una lista de privacidad y equidad; mientras que la Cooperative AI Foundation (2025) crítica fragmentación regulatoria. Esto en el caso de la región de América Latina, puede amplificar las desigualdades y brechas digitales, como Sánchez que señala un uso de tecnología en formación dependiente.

Si esto lo analizamos desde su dimensión psicopolítica, veríamos agentes votando como "submolts" simulando democracias sesgadas y fomentando tecno-autoritarismos (Societal Risks of AI Working Group, 2025). ¿Sería viable una alineación sin humanos? De esta tensión teórica urge una postura de gobernanza adaptativa, integradora, resiliente, sostenible y sustentable.

Y qué podremos decir de la educación. ¿Cómo preparar nuevas generaciones para un periodo de post-humanidad IA-dominada? Varshney sugiere transparencia IA; Sánchez, aboga por pedagogías críticas; ¿integrando "Moltbooks" en el espacio del aula? (Varshney, 2024; Sánchez Mendiola, 2025). Hay mucho que reflexionar al respecto. No podemos dar una respuesta definitiva, debido a los costos y riesgos que esta decisión puede desencadenar en los sistemas educativos y en la construcción del currículo y del aprendizaje de las nuevas generaciones.

Podríamos imaginar que en las aulas latinoamericanas de educación básica y medio superior, los estudiantes podrían internalizar normas agente, pero agravando riesgos neurocognitivos (Societal Risks of AI Working Group, 2025). Mientras Varshney optimiza posible colaboración; el Working Group, se orienta por los llamados "safeguards" sociales.

Pero queda en el aire el siguiente punto, ¿si actualmente existen riesgos potenciales iniciales con la creación de "redes-sociales de agentes IA", aunados a posibles actos de opacidad y emergencia, cómo se verá esto reflejado en la responsabilidad (accountability) en ecosistemas maduros, considerados como ondas sísmicas probables en el ámbito de la economía mundial en contextos de fragilidad y vulnerabilidad. Es lo que será abordado en el siguiente apartado.