Por Deyanira Trinidad Álvarez Villajuana[1]

La humanidad atraviesa una nueva revolución tecnológica caracterizada por la convergencia entre inteligencia artificial (IA), las neurotecnologías, la ciencia de datos y los sistemas digitales autónomos, con miras a una Inteligencia Artificial General (AGI), también conocida como IA fuerte, que básicamente es un sistema hipotético que iguala o supera la capacidad cognitiva humana en prácticamente cualquier tarea intelectual o económica (Bergmann, D. y Stryker, C. 2026). A diferencia de la IA actual, que es especializada, una AGI podría razonar, aprender de forma autónoma y adaptarse a contextos totalmente nuevos sin programación previa.Aunque la IA promete avances significativos en ámbitos como la salud, la educación, la seguridad y la productividad, es un hecho que plantea riesgos inéditos para la dignidad humana, los derechos fundamentales y la estabilidad de las instituciones democráticas, de no realizar adecuaciones producto de acuerdos mundiales, sobre todo, en este momento histórico de inflexión digital… ya no hay vuelta atrás.La inteligencia artificial ha dejado de ser una tecnología emergente para convertirse en un elemento estructural de la vida contemporánea de millones de seres humanos en el planeta. Sistemas algorítmicos participan actualmente en procesos de toma de decisiones públicas y privadas, influyen en la formación de la opinión pública, intervienen en procesos electorales y condicionan el acceso a servicios esenciales. Paralelamente, el desarrollo acelerado de neurotecnologías, entendidas como aquellas herramientas capaces de registrar, interpretar o modificar la actividad cerebral, abre la posibilidad de intervenir sobre la esfera más íntima de la persona: su mente.

Autores como Bostrom (2014), Floridi (2014), Yuste et al. (2017) y Ienca y Andorno (2017) han advertido que estas innovaciones pueden comprometer libertades básicas y generar nuevas formas de vulneración de derechos, particularmente aquellos vinculados con la privacidad mental, la identidad personal, la autonomía cognitiva y la libertad de pensamiento.En respuesta a estos desafíos, diversos organismos internacionales han impulsado instrumentos normativos orientados a garantizar una gobernanza tecnológica basada en derechos humanos. Destacan la Recomendación sobre la Ética de la Inteligencia Artificial de la UNESCO, adoptada en 2021, y la Recomendación sobre la Ética de las Neurotecnologías, aprobada en 2025, considerada el primer estándar global específico en esta materia. Asimismo, el Consejo de Europa adoptó en 2024 el Convenio Marco sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho, primer tratado internacional jurídicamente vinculante en el ámbito de la inteligencia artificial.No obstante, persisten importantes interrogantes respecto de la capacidad de las democracias iberoamericanas para responder institucionalmente a estas transformaciones. Quien suscribe, es mexicana, pero cuenta con una visión global de la situación, siendo lo más notable que la región enfrenta históricamente problemas de desigualdad digital, debilidad institucional, polarización política y déficits en materia de protección de derechos fundamentales, circunstancias que podrían amplificar los efectos adversos derivados del uso irresponsable o no regulado de estas tecnologías.

Al respecto, es relevante señalar que la democracia contemporánea depende, en gran medida, de la existencia de una ciudadanía informada, lo cual, las más de las veces no ocurre, y, por ende, la valiosa labor de difusión de conocimientos de la RIDCA, entre otras iniciativas de nivel académico, profesional y humano, que involucran ecosistemas sólidos, que generan comunicaciones confiables. Sin embargo, la inteligencia artificial generativa ha modificado radicalmente dicha producción y circulación de información, poniendo en riesgo la veracidad de lo expresado, junto con un posible impacto negativo en materia democrática, pues, por ejemplo, durante diversos procesos electorales recientes en países latinoamericanos y a lo largo del mundo, se ha documentado un incremento significativo en el uso de contenidos sintéticos o deepfakes con fines políticos, propagandísticos o de manipulación de la opinión pública. Investigaciones recientes muestran que las campañas electorales comienzan a incorporar imágenes, audios y videos generados mediante IA capaces de influir en la percepción ciudadana y erosionar con ello, la confianza institucional.En 2026, diversos organismos internacionales alertaron sobre la proliferación de «enjambres de bots» impulsados por inteligencia artificial capaces de simular comportamientos humanos y coordinar campañas masivas de desinformación en redes sociales, fenómeno observado en procesos electorales desarrollados en Asia, Norteamérica, Europa y Latinoamérica, ya que la manipulación de la información, no discrimina, pero sí contamina. De igual manera, autoridades estadounidenses iniciaron procedimientos judiciales relacionados con la utilización de contenidos políticos falsificados mediante IA durante campañas electorales locales, siendo noticias muy virales a nivel mundial.Estos acontecimientos evidencian que la manipulación algorítmica constituye una amenaza directa para principios democráticos esenciales como la transparencia, la deliberación pública y la integridad electoral, incidiendo directamente en el poder de las personas para elegir con “libertad” el rumbo que quieren darle a sus naciones y vidas. Es decir, la democracia, está en riesgo, aún más, pues ya lo estaba…

Con base en lo antes expresado, quien suscribe considera que uno de los mayores desafíos para las democracias iberoamericanas y a nivel mundial, no radica exclusivamente en el desarrollo acelerado de tecnologías disruptivas, sino en la capacidad de los Estados para responder institucionalmente a dichos cambios sin comprometer los derechos fundamentales de la ciudadanía. A diferencia de otras revoluciones tecnológicas anteriores, la inteligencia artificial posee la particularidad de influir simultáneamente sobre la economía, la cultura, la información, las emociones y los procesos cognitivos humanos, y lo está haciendo cada vez más, y a un paso acelerado, estando muy cerca la aparición de la AGI, la cual, desde el punto de vista personal, no tardará más de 3 años en aparecer. Ello implica que sus múltiples beneficios, pero también sus evidentes riesgos, trascienden el ámbito estrictamente técnico y se proyectarán, y ya lo están haciendo, sobre la esencia misma del sistema democrático.En América Latina, región históricamente caracterizada por profundas desigualdades sociales, fragilidad institucional y elevados índices de desconfianza hacia las instituciones públicas (Latinobarómetro, 2024), la incorporación de sistemas algorítmicos sin adecuados mecanismos de supervisión podría profundizar brechas preexistentes, lo que, en este 2026 ya se ha validado que ocurre. No resulta casual que diversos organismos internacionales hayan advertido que la automatización de decisiones estatales puede reproducir sesgos estructurales asociados a variables socioeconómicas, étnicas, territoriales y de género (UNESCO, 2021), constituyéndoseMéxico, país de origen de quien suscribe, un caso paradigmático e interesante para ejemplificar.

En años recientes, diversas entidades federativas han comenzado a incorporar herramientas de inteligencia artificial para tareas vinculadas con seguridad pública, análisis criminal, administración de justicia y prestación de servicios gubernamentales. No obstante, la ausencia de una legislación integral sobre inteligencia artificial genera incertidumbre respecto de los límites constitucionales aplicables al tratamiento automatizado de datos personales y a la toma de decisiones asistidas por algoritmos. Particularmente preocupante resulta la posibilidad de que sistemas automatizados sean utilizados en contextos judiciales o administrativos sin garantizar plenamente principios como la transparencia, la explicabilidad, la no discriminación y el debido proceso.Desde la experiencia mexicana, estados con acelerados procesos de digitalización, como Yucatán, ofrecen interesantes oportunidades para reflexionar sobre esta problemática. Mérida ha sido reconocida nacional e internacionalmente por sus índices de seguridad y por la creciente incorporación de tecnologías digitales en la gestión pública. Sin embargo, la expansión de ecosistemas digitales también ha favorecido nuevas formas de conflictividad social, entre ellas la violencia digital, el ciberacoso de parte de ex parejas o personas “tóxicas” o con envidia, las “funas” con base en contenidos falsos y distorsionados (habiendo atravesado por ello quien suscribe, y sin repercusiones en mi protección, pues se trataba de “perfiles falsos” o bots), además de campañas coordinadas de desinformación y la difusión masiva de contenidos falsificados utilizando IA.

Tales fenómenos evidencian que incluso sociedades percibidas como relativamente estables y pacíficas, como la blanca Mérida, Yucatán, México, no son inmunes a los riesgos derivados de la hiperconectividad contemporánea, pero, sobre todo, al mal uso que seres humanos sin principios ni valores pro humanos, le dan.El caso argentino también ofrece importantes enseñanzas. Argentina, una bella e interesante nación, se ha posicionado como uno de los países latinoamericanos más activos en materia de gobernanza de la inteligencia artificial, impulsando estrategias nacionales orientadas al desarrollo responsable de estas tecnologías. Sin embargo, durante procesos electorales recientes, investigadores y organizaciones civiles han advertido sobre la creciente circulación de contenidos políticos sintéticos generados mediante inteligencia artificial, situación que plantea interrogantes sobre la capacidad de los sistemas democráticos para preservar la autenticidad del debate público y garantizar el derecho ciudadano a recibir información veraz.Asimismo, la experiencia brasileña merece especial atención, ya que, durante las elecciones presidenciales de 2022 y procesos políticos posteriores, el Tribunal Superior Electoral de Brasil adoptó medidas específicas destinadas a combatir la desinformación digital y regular el uso de contenidos manipulados mediante inteligencia artificial. Dichas acciones, no privativas de estos tres países, reflejan una tendencia emergente a nivel mundial: las democracias contemporáneas deberán desarrollar nuevas capacidades institucionales para proteger la integridad electoral frente a amenazas tecnológicas cada vez más sofisticadas, impulsadas por personas que alimentan al algoritmo con datos inexactos y perversos, y por ende, ello será replicado, siendo ésta un área de intervención crítica en la que debe trabajarse de manera coordinada y desde ahora.

Asimismo, desde una perspectiva comparada, puede afirmarse que la región iberoamericana enfrenta una paradoja. Por un lado, la inteligencia artificial ofrece herramientas extraordinarias para ampliar el acceso a la educación, fortalecer la participación ciudadana, optimizar servicios públicos, además de democratizar el conocimiento y favorecer la generación de estrategias para la participación ciudadana en línea y de forma presencial. Pero, por otrolado,la ausencia de marcos regulatorios robustos y concretos, podría favorecer nuevas formas de vigilancia masiva, manipulación cognitiva y concentración del poder informacional en actores públicos o privados.No es “blackmirror”, es una realidad en la actualidad y cada vez mayor. La situación adquiere una dimensión aún más compleja cuando se analizan las neurotecnologías, ya que, a diferencia de otro tipo de innovaciones, estas herramientas tienen la capacidad potencial de acceder, registrar o modificar procesos neuronales humanos de manera directa a través de “chips”, siendo un ejemplo de estas acciones “Neuralink” de Elon Musk, planteando lo anterior, nuevos diálogos éticos al respecto, y de impacto en la humanidad, como la conocemos hasta el momento. En consecuencia, la frontera tradicional entre lo público y lo privado podría desplazarse hacia territorios hasta ahora psicológica, jurídica y socialmente inexplorados. Si durante el siglo XX los sistemas democráticos lucharon por garantizar libertades políticas y civiles, el siglo XXI podría exigir la protección de una nueva categoría de derechos vinculados a la soberanía cognitiva, la privacidad mental y la identidad personal.Algunas neurotecnologías incluyen dispositivos de interfaz cerebro-computadora, sistemas de estimulación cerebral, técnicas de neuromodulación y herramientas de decodificación neuronal, entre otras, las cuales, aunque poseen aplicaciones clínicas prometedoras, particularmente en enfermedades neurodegenerativas, parálisis y temas de salud mental, concordando quien suscribe con este valioso y necesario uso, también se generan riesgos sin precedentes, al caer en manos de una élite, que pueda utilizar para el mal, entendido como fines egoístas que privilegien lo económico por encima del bienestar humano, una tecnología originalmente creada para el bien, como ha ocurrido a lo largo de la historia de la humanidad.

En concordancia, Yuste et al. (2017) sostienen que la capacidad tecnológica para acceder a información cerebral exige el reconocimiento de una nueva generación de derechos denominados «neuroderechos». Entre ellos destacan: derecho a la privacidad mental, derecho a la identidad personal, derecho al libre albedrío, derecho a la igualdad en el acceso a las mejoras cognitivas, derecho a la protección frente a sesgos algorítmicos neuronales.Ienca y Andorno (2017) advierten que los avances en neurotecnología podrían comprometer la libertad cognitiva y la integridad mental de las personas si no existen salvaguardas jurídicas adecuadas.La UNESCO reconoció formalmente estos riesgos al aprobar en 2025 la primera Recomendación Mundial sobre la Ética de las Neurotecnologías, instrumento que enfatiza la necesidad de proteger la dignidad humana, la autonomía individual y la libertad de pensamiento frente a posibles usos abusivos de dichas tecnologías. Otro aspecto que debe considerarse relevante para la imprescindible unión de la colectividad en la toma de acuerdos sobre el impacto de la IA, a la que ya no se puede “controlar” y menos dentro de unos años, pero sí se pueden generar estrategias humanas que nos aseguren la mejor protección y beneficios, es la gobernanza global de la inteligencia artificial, la que ha transitado desde modelos de autorregulación hacia esquemas normativos progresivamente vinculantes.En este sentido, resulta valioso señalar que la Unión Europea aprobó en 2024 el Reglamento de Inteligencia Artificial (AI Act), considerado el primer marco regulatorio integral basado en niveles de riesgo tecnológico. Paralelamente, el Consejo de Europa adoptó el Convenio Marco sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho, orientado a garantizar que todo el ciclo de vida de los sistemas de IA sea compatible con los derechos humanos y el Estado de Derecho.Y, por su parte, la UNESCO promueve un modelo ético sustentado en principios de transparencia, supervisión humana, rendición de cuentas, no discriminación y sostenibilidad.

No obstante, en Iberoamérica persiste una significativa heterogeneidad normativa en este tema y relacionados, ya que, mientras algunos países han iniciado estrategias nacionales de inteligencia artificial, la mayoría aún carece de marcos regulatorios específicos sobre neurotecnologías, que sean lo suficientemente robustos, pero además concretos y contextualizados a su región, y que incluyan aunado a ello, una evaluación algorítmica de impacto en derechos humanos o protección de neurodatos. Al respecto, los principales desafíos regionales pueden sintetizarse en cinco dimensiones:a) Protección de derechos fundamentales. Garantizar privacidad, autonomía cognitiva y libertad de pensamiento, b) Fortalecimiento institucional. Desarrollar capacidades estatales para supervisar tecnologías complejas, c) Alfabetización digital y neuroética. Promover ciudadanía crítica frente a contenidos sintéticos y manipulación informacional, d) Transparencia algorítmica. Exigir mecanismos de explicabilidad y auditoría independiente y e) Cooperación internacional. Impulsar estándares regionales armonizados que eviten asimetrías regulatorias.

Considerando lo anterior, desde una perspectiva latinoamericana, resulta indispensable construir una gobernanza tecnológica humanista, con pleno respeto a la dignidad y características humanas, que nos distinguen, orientada no solamente a incentivar la innovación, sino también a preservar nuestra esencia y la calidad democrática, sobre todo, en atención a las nuevas generaciones quienes ya nacieron y están creciendo en un mundo muy diferente al que les tocó a millones.Para ello, es menester que la defensa de la democracia en la era digital trascienda visiones rígidas, supremasistas, dictatoriales, tecnocéntricas o economicistas, ya que, si no generamos puentes como humanos y solo seguimos construyendo muros basados en odio, egoísmo e intereses de unos cuantos, la AGI nos superará y el fin de la humanidad como la conocemos, llegará… Es una afirmación quizá arriesgada a lo Julio Verne, pero se considera viable debido a las circunstancias actuales y lo imprevisible del futuro por múltiples factores alineados a la vez, desde guerras, cambio climático, situaciones inter espaciales, y tecnología en manos de personas cuyo interés en el bien común sea tan grande como su preocupación por quedarse sin dinero y poder, con los que cuentan, y más que suficiente, desde hace muchas generaciones. La discusión sobre inteligencia artificial y neurotecnologías, luego entonces, no puede reducirse a una mera carrera global por la innovación o la competitividad económica. Sino que, se trata, fundamentalmente, de una discusión sobre el modelo de sociedad que Iberoamérica y el mundo, desea construir, porque de ello depende la preservación de la humanidad. En este sentido, la tecnología debe concebirse como una herramienta al servicio de la dignidad humana, de la sociedad y no como un fin en sí mismo para obtener objetivos egoístas, que pongan en riesgo a la humanidad. Sin embargo, esta posición correspondiente al “deber ser”, no concuerda las más de las veces con los hechos objetivos que son y no pueden dejar de ser. Si no se toman decisiones colaborativas desde ya, existe el riesgo inminente de consolidar formas inéditas de desigualdad, exclusión y control social incompatibles con los principios democráticos y con el paradigma internacional de derechos humanos. Dicha afirmación puede sostenerse por cuatro razones desde el personal punto de vista:

Primero, porque la IA podría reproducir discriminación estructural si se entrena con datos históricos sesgados. Si un algoritmo aprende de expedientes, contrataciones, créditos, vigilancia o decisiones públicas donde ya existían desigualdades, puede automatizarlas con apariencia de neutralidad. Esto afecta igualdad y no discriminación.Segundo, porque la IA podría crear exclusión cuando el acceso a derechos dependiera de sistemas digitales opacos: trámites, becas, salud, educación, justicia, crédito o empleo. Si la persona no entiende por qué fue rechazada, ni puede impugnar eficazmente la decisión, se vulnerarían el debido proceso, el acceso a la justicia y el derecho a la explicación de lo ocurrido. Mantelero, A. (2022) propone evaluaciones de impacto en derechos humanos precisamente porque los sistemas intensivos en datos pueden afectar derechos de forma contextual y medible.Tercero, porque la IA y las neurotecnologías podrían facilitar el control social, de caer en las manos inadecuadas, lo cual tiene una alta probabilidad de ocurrir y, de hecho, ya ocurre, mediante la vigilancia, el perfilamiento, el reconocimiento biométrico, el análisis emocional, la manipulación informativa y la captura de datos íntimos. Ante ello, la UNESCO advierte que la IA debe prevenir daños como discriminación, vigilancia indebida y afectaciones a derechos humanos. En neurotecnología,se ha alertado sobre los riesgos para la privacidad mental, la libertad de pensamiento y, la identidad personal. Cuarto, porque en democracia no basta que la tecnología sea eficiente: debe ser controlable, transparente, proporcional, revisable y compatible con derechos humanos. El Convenio Marco del Consejo de Europa sobre IA vincula expresamente inteligencia artificial con derechos humanos, democracia y Estado de derecho; y la Unión Europea regula la IA por niveles de riesgo, justamente porque no todos los usos tecnológicos son jurídicamente aceptables. Por ende, quien suscribe considera que existe un riesgo real de consolidar nuevas formas de desigualdad, exclusión y control social si los sistemas de inteligencia artificial y neurotecnología son incorporados sin controles democráticos, evaluación de impacto en derechos humanos, transparencia, supervisión humana y vías efectivas de impugnación. Dicho riesgo no deriva de la tecnología en sí misma, sino de su interacción con contextos institucionales marcados anteriormente, por desigualdad estructural, brechas digitales, opacidad administrativa y concentración del poder informacional. En tales condiciones, los algoritmos pueden reproducir sesgos históricos, excluir a personas de servicios o derechos mediante decisiones automatizadas incomprensibles, ampliar prácticas de vigilancia y afectar libertades básicas como la privacidad, la igualdad, el debido proceso, la libertad de pensamiento y la autonomía personal.

En conclusión, la inteligencia artificial y las neurotecnologías representan una de las transformaciones más profundas del siglo XXI, siendo su potencial para mejorar la calidad de vida, indiscutible; sin embargo, su utilización sin controles democráticos adecuados puede comprometer derechos fundamentales históricamente consolidados.La creciente utilización de inteligencia artificial en campañas políticas, la proliferación de noticias falsas y suplantación de identidad en fotografías y videos utilizando la IA, así como la expansión de sistemas de desinformación automatizada y la posibilidad de intervenir sobre procesos cognitivos humanos evidencian la necesidad urgente de fortalecer los marcos regulatorios y éticos existentes.Iberoamérica enfrenta el desafío de evitar que las brechas tecnológicas se traduzcan en nuevas formas de desigualdad, exclusión y vulneración de derechos. Para ello, resulta imprescindible, desde la visión de quien suscribe, sin ser fatalista o conspiranoica, sino objetiva y razonable, el consolidar políticas públicas basadas en derechos humanos, promover mecanismos de supervisión independiente, fortalecer la cooperación regional y fomentar una alfabetización digital crítica en toda la población.Finalmente, la defensa de la democracia en la era de la inteligencia artificial no dependerá exclusivamente del desarrollo tecnológico, sino de la capacidad de las sociedades para colocar la dignidad humana, la libertad y la justicia en el centro de toda innovación. Es cuánto.

Referencias

Bergmann, D. y Stryker, C. (2026). ¿Qué es la Inteligencia Artificial General (AGI)? IBM. Consultado el 29 de junio de 2026 en: https://www.ibm.com/mx-es/think/topics/artificial-general-intelligence

Bostrom, N. (2014). Superintelligence: Paths, dangers, strategies. Oxford UniversityPress.

Consejo de Europa. (2024). Framework Conventionon Artificial Intelligence and Human Rights, Democracy and the Rule ofLaw.

EuropeanUnion. (2024). Regulation (EU) 2024/1689 layingdownharmonised rules on artificial intelligence (Artificial IntelligenceAct).OfficialJournaloftheEuropeanUnion.

Floridi, L. (2014). Thefourthrevolution: Howtheinfosphereisreshaping human reality. Oxford UniversityPress.

Ho-Dac, M. (2024). FirstAnalysisofthe EU Artificial IntelligenceAct: Towards a Global Standard forTrustworthy AI?

Latinobarómetro. (2024). Informe Latinobarómetro 2024. Corporación Latinobarómetro.

Ienca, M., &Andorno, R. (2017). Towards new human rights in theageofneuroscience and neurotechnology. LifeSciences, Society and Policy, 13(5), 1-27.

Leslie, D., Burr, C., Aitken, M., Katell, M., Briggs, M., &Rincon, C. (2022). Human rights, democracy, and the rule oflawassuranceframeworkfor AI systems: A proposal. AI and Ethics, 2(4), 553-570.

Maslej, N., et al. (2024). Artificial IntelligenceIndexReport 2024. Stanford University.

Nuffield Council onBioethics. (2013). Novel neurotechnologies: Intervening in thebrain. Nuffield Council onBioethics.

Organización de los Estados Americanos. (2024). Lineamientos para una gobernanza confiable de la inteligencia artificial en las Américas. OEA.

Organización para la Cooperación y el Desarrollo Económicos. (2019). OECD principleson artificial intelligence. OECD Publishing.

UNESCO. (2021). RecommendationontheEthicsof Artificial Intelligence. UNESCO.

UNESCO. (2025). RecommendationontheEthicsofNeurotechnology. UNESCO.

UnitedNations. (2024). Governing AI forhumanity: Final reportofthe High-LevelAdvisoryBodyon Artificial Intelligence. UnitedNations.

Yuste, R., Goering, S., Arcas, B. A. y otros. (2017). Fourethicalprioritiesforneurotechnologies and AI. Nature, 551, 159-163.

Zuboff, S. (2019). Theageofsurveillancecapitalism: Thefightfor a human future at the new frontierofpower. PublicAffairs.

Notas

[1] grupodesarrollarte@gmail.com Mérida, Yucatán, México. Licenciada en Psicología por la Universidad Autónoma de Yucatán, obteniendo el Primer Lugar Nacional en el examen EGEL-PSI del CENEVAL. Maestra en Psicología y Orientación Vocacional y Maestra en Derechos Políticos y Procesos Electorales. Doctora en Ciencias de la Educación y Doctora en Ciencias Forenses. Realizó una estancia posdoctoral en Derecho Penal y Criminología y concluyó estudios de Licenciatura en Derecho por la UNAM. Cuenta con formación especializada en Inteligencia Artificial, Ciencia de Datos, Programación y Robótica. Es fundadora de la Academia DesarrollArte Efecto Mariposa®, consultora organizacional, conferencista internacional, investigadora y autora de diversos libros y artículos científicos relacionados con psicología, educación, derechos humanos, criminología, tecnología e inclusión social.