La propuesta ética y jurídica del rabino Dr. Fishel Szlajen en el Simposio Internacional de Libertad Religiosa – Lima
En el marco del Simposio Internacional de Libertad Religiosa realizado en Lima, el rabino Dr. Fishel Szlajen, miembro de la Pontificia Academia para la Vida del Vaticano y de la Comisión Nacional de Bioética de Argentina, presentó la ponencia titulada “IA y libertad religiosa: gobernanza sin colonizar la conciencia”.
Su exposición abordó uno de los problemas más sensibles de nuestro tiempo: el poder de los sistemas algorítmicos para clasificar, perfilar, influir y tomar decisiones respecto de las personas, incluso en ámbitos vinculados con su conciencia, sus convicciones y su identidad religiosa.
La tesis central fue clara: la inteligencia artificial puede ser útil para organizar información, recomendar acciones o asistir en la toma de decisiones, pero no debe convertirse en un mecanismo opaco de control, manipulación o sustitución de la responsabilidad humana.
No se trata únicamente de proteger datos personales. Se trata de impedir que la persona sea reducida a una categoría estadística, que su fe sea inferida sin su consentimiento o que su conciencia se convierta en objeto de experimentación del Estado, del mercado o de las plataformas digitales.
La persona no es materia prima predictiva
El primer principio desarrollado por Szlajen fue el derecho humano a no ser usado.
La dignidad humana comienza cuando la persona deja de ser tratada solamente como un instrumento. En el ámbito digital, este riesgo aparece cuando el ser humano es reducido a:
- un dato para una plataforma;
- una variable para una política pública;
- un objeto de experimentación conductual;
- un instrumento ideológico o comercial.
El hecho de que un sistema pueda obtener información válida o producir una inferencia estadísticamente correcta no significa que cualquier utilización posterior sea legítima.
Una plataforma puede conocer con precisión determinados hábitos, preferencias o patrones de conducta. Sin embargo, esa capacidad técnica no autoriza automáticamente a utilizar esa información para influir, excluir, vigilar o clasificar a la persona.
La idea puede resumirse en una de las afirmaciones centrales de la exposición:
Una inferencia puede ser estadísticamente correcta y, al mismo tiempo, moralmente ilegítima.
Desde el punto de vista jurídico, la consecuencia es importante: la licitud en la obtención del dato no legitima cualquier tratamiento posterior. Debe existir finalidad legítima, necesidad, proporcionalidad y respeto por la dignidad humana.
La conciencia no es una mina de datos
El segundo principio fue la indisponibilidad algorítmica de la conciencia.
Szlajen sostuvo que no todo aquello que técnicamente puede inferirse debe ser inferido.
Los sistemas actuales pueden analizar gustos, temores, relaciones, hábitos de consumo, lugares visitados, contenidos consultados y reacciones emocionales. A partir de estos elementos, pueden elaborar perfiles extremadamente detallados sobre la personalidad y las convicciones de una persona.
El problema surge cuando esa información es utilizada para intervenir silenciosamente en la formación de sus decisiones.
La exposición distinguió entre persuasión legítima y manipulación algorítmica.
La persuasión legítima se caracteriza por:
- la presentación abierta de argumentos;
- la identificación del emisor;
- la libertad del destinatario para aceptar o rechazar el mensaje.
La manipulación algorítmica, por el contrario, se basa en:
- invisibilidad;
- hiperpersonalización;
- explotación de vulnerabilidades.
En la persuasión, la persona sabe que alguien intenta convencerla. En la manipulación algorítmica, el sistema adapta mensajes, imágenes y estímulos para explotar temores, necesidades o debilidades, sin que el destinatario advierta plenamente que está siendo intervenido.
De allí una de las frases más fuertes de la ponencia:
La mente no es una mina de datos.
La conciencia no puede convertirse en laboratorio del mercado, del Estado ni de las plataformas.
La protección algorítmica de la libertad religiosa
El tercer principio fue la protección algorítmica reforzada de la libertad religiosa.
Tradicionalmente, la libertad religiosa protege el denominado forum internum, es decir, el ámbito interior de la persona. Comprende el derecho a:
- tener una religión o creencia;
- adoptarla;
- conservarla;
- cambiarla;
- no profesar ninguna;
- no revelarla;
- no ser obligado a permanecer dentro de una categoría religiosa impuesta desde el exterior.
La inteligencia artificial introduce un problema nuevo: la posibilidad de que una persona sea clasificada religiosamente sin haber declarado nunca su fe.
Szlajen diferenció tres conceptos.
El forum internum
Es el espacio íntimo de la conciencia y de las convicciones. No puede ser objeto de coerción ni de apropiación externa.
El dato declarado
Es la información religiosa que la persona comunica voluntariamente en un contexto y para una finalidad concreta.
La creencia inferida
Es la identidad religiosa que un sistema atribuye a una persona mediante correlaciones, aunque ella nunca la haya declarado, no quiera revelarla o incluso no posea esa creencia.
Un algoritmo podría inferir la religión utilizando variables como:
- nombres y apellidos;
- domicilio o jurisdicción;
- vestimenta;
- horarios;
- hábitos alimentarios;
- lugares frecuentados;
- vínculos comunitarios;
- contenidos consultados;
- participación en determinadas actividades.
La persona deja así de ser identificada por lo que libremente declara y comienza a ser definida por lo que un sistema considera probable.
El derecho a la indeterminación confesional
Frente a este riesgo, Szlajen propuso reconocer el derecho a la indeterminación confesional.
Este derecho supone que nadie debe ser clasificado como integrante de una determinada religión sin que existan:
- finalidad legítima;
- base jurídica suficiente;
- necesidad estricta;
- proporcionalidad;
- posibilidad de conocimiento, corrección e impugnación.
Esta propuesta amplía la protección tradicional de la libertad religiosa.
Ya no basta con impedir que una autoridad obligue a una persona a declarar su fe. También debe impedirse que un sistema la deduzca clandestinamente y utilice esa inferencia para adoptar decisiones.
La libertad religiosa comprende, por tanto, el derecho a no ser fijado algorítmicamente dentro de una identidad confesional.
La neutralidad formal puede ocultar discriminación
La exposición advirtió también que un sistema puede no utilizar expresamente la palabra “religión” y, sin embargo, producir efectos religiosos discriminatorios.
Un algoritmo puede emplear criterios aparentemente neutrales, como:
- jurisdicción;
- apellidos;
- vestimenta;
- horarios;
- vínculos comunitarios.
Sin mencionar directamente la religión, estas variables pueden actuar como sustitutos o proxies que permiten inferirla.
Así, una regla técnica o administrativa aparentemente neutral puede producir:
- clasificación;
- exclusión;
- vigilancia;
- tratamiento diferenciado;
- afectación específica de una comunidad religiosa.
Desde el punto de vista jurídico, la estructura es la siguiente:
criterio aparentemente neutral + variables vinculadas indirectamente con la religión + impacto adverso sobre una comunidad + ausencia de justificación objetiva y proporcional = posible discriminación religiosa indirecta.
La neutralidad no puede evaluarse únicamente por el texto de la norma o por las variables expresas utilizadas por el sistema. Debe verificarse también en sus efectos concretos.
Autonomía operativa no significa autonomía moral
El cuarto principio fue la distinción entre autonomía moral humana y autonomía operativa de la inteligencia artificial.
La inteligencia artificial puede:
- ejecutar;
- optimizar;
- adaptarse;
- producir respuestas.
Sin embargo, no reconoce por sí misma si un objetivo es justo o injusto.
La fluidez técnica no produce:
- conciencia;
- deliberación moral;
- obligación;
- autoridad religiosa;
- responsabilidad.
El ser humano, en cambio, es un sujeto moral porque puede deliberar, asumir deberes y responder por sus decisiones.
La diferencia resulta especialmente relevante en el ámbito religioso.
Una inteligencia artificial puede procesar textos sagrados, comparar interpretaciones o responder preguntas doctrinales. Pero ello no le otorga:
- fe;
- autoridad espiritual;
- legitimidad comunitaria;
- jurisdicción religiosa;
- responsabilidad pastoral.
La conclusión de Szlajen fue precisa:
Un sistema puede asistir a quien interpreta, pero no sustituye a la comunidad, a la conciencia ni a la jurisdicción religiosa.
La capacidad de producir respuestas convincentes no convierte a una máquina en autoridad moral o espiritual.
La responsabilidad humana es indelegable
El quinto principio fue la responsabilidad humana indelegable.
No puede existir poder algorítmico sin rostro humano, trazabilidad y reparación.
Dentro de un sistema de inteligencia artificial intervienen distintos actores:
- quien lo diseña;
- quien lo autoriza;
- quien lo contrata;
- quien lo supervisa;
- quien se beneficia;
- quien adopta la decisión;
- quien debe reparar el daño.
La complejidad tecnológica no puede utilizarse para diluir la responsabilidad.
Cuando una decisión afecta derechos, debe ser posible identificar:
- quién definió el objetivo;
- quién eligió los datos;
- quién autorizó el sistema;
- quién revisó el resultado;
- quién tomó la decisión final;
- quién responde por sus consecuencias.
La supervisión humana debe ser real
No basta afirmar que existe una persona “supervisando” el sistema.
Para que la supervisión humana sea efectiva, el operador debe tener:
- comprensión;
- autoridad;
- capacidad de revisión;
- posibilidad de apartarse del resultado;
- deber de responder.
Una persona que se limita a confirmar automáticamente la recomendación de la máquina no ejerce supervisión.
Como señaló Szlajen:
Un operador que solo confirma la recomendación de la máquina no supervisa; legitima apariencias.
Esta idea resulta decisiva para el derecho. La presencia formal de una persona no convierte automáticamente en humana una decisión algorítmica. Debe existir una intervención sustantiva y responsable.
Siete obligaciones para gobiernos, universidades y organizaciones
La exposición no se limitó a los principios. Propuso siete obligaciones concretas para convertir la ética en diseño institucional verificable.
1. Prohibir
Prohibir las inferencias religiosas injustificadas.
2. Reconocer
Reconocer el derecho de la persona a:
- saber que fue clasificada;
- impugnar la atribución;
- corregirla;
- exigir su eliminación.
3. Evaluar
Evaluar específicamente el impacto del sistema sobre:
- la conciencia;
- la religión;
- las prácticas religiosas;
- las comunidades afectadas.
4. Garantizar
Garantizar neutralidad sustantiva y ausencia de discriminación indirecta.
5. Exigir
Exigir explicaciones comprensibles y auditorías independientes.
6. Supervisar
Asegurar decisiones con competencia humana real.
7. Asegurar
Garantizar trazabilidad, reparación y responsabilidad exigible.
Estas obligaciones pueden traducirse en:
- leyes;
- reglamentos;
- contratos públicos;
- guías técnicas;
- protocolos internos;
- estándares de auditoría;
- mecanismos de reparación.
Evaluación de Impacto Algorítmico sobre Conciencia y Religión
Como instrumento operativo, Szlajen propuso una Evaluación de Impacto Algorítmico sobre Conciencia y Religión.
Esta evaluación no debe realizarse al final, cuando el sistema ya está funcionando. Debe activarse antes de:
- diseñarlo;
- adquirirlo;
- contratarlo;
- implementarlo.
La evaluación debe considerar cinco dimensiones.
Datos
¿El sistema puede inferir creencias directa o indirectamente?
Modelo
¿Clasifica, personaliza, recomienda o asigna riesgos?
Impacto
¿Afecta prácticas, calendarios, vestimenta, comunidad o ejercicio de derechos?
Manipulación
¿Interviene de manera opaca en la formación de convicciones?
Control
¿Quién explica, detiene, revisa y repara?
La evaluación debe repetirse cuando cambien:
- los datos;
- la finalidad;
- las funciones;
- el contexto;
- los grupos afectados.
Además, debe contar con participación jurídica, ética, técnica y de las comunidades involucradas.
De la preocupación ética a la gestión institucional
La ponencia concluyó proponiendo que la ética de la inteligencia artificial deje de ser un discurso abstracto y se convierta en gestión institucional.
Para ello planteó cinco aportes.
Lenguaje público
La dignidad y la conciencia deben expresarse en criterios verificables.
Diseño normativo
Los principios deben convertirse en obligaciones exigibles.
Gestión de riesgo
Los daños deben ser identificados antes de que ocurran.
Gobernanza multiactor
La regulación debe involucrar a técnicos, juristas, especialistas en ética y comunidades afectadas.
Responsabilidad exigible
Debe existir trazabilidad, reparación y garantía de no repetición.
Una democracia no puede soportar la colonización de la conciencia
La exposición terminó con una frase que resume todo su planteamiento:
Una democracia puede soportar muchas ineficiencias. Lo que no puede soportar es la colonización de la conciencia.
El problema de la inteligencia artificial no se limita a sus errores técnicos.
El verdadero riesgo aparece cuando los sistemas algorítmicos son utilizados para:
- inferir creencias;
- explotar vulnerabilidades;
- condicionar decisiones;
- clasificar comunidades;
- vigilar comportamientos;
- intervenir silenciosamente en la conciencia.
La libertad religiosa ya no debe ser protegida únicamente frente a prohibiciones expresas o actos de persecución directa.
También debe ser defendida frente a sistemas capaces de definir a la persona sin preguntarle, influirla sin advertirle y discriminarla sin mencionar formalmente su religión.
Conclusión
La ponencia del rabino Dr. Fishel Szlajen en el Simposio Internacional de Libertad Religiosa celebrado en Lima ofrece una arquitectura completa para enfrentar los riesgos de la inteligencia artificial sobre la conciencia y la libertad religiosa.
Su propuesta integra:
- dignidad humana;
- límites a las inferencias;
- protección de la conciencia;
- derecho a la indeterminación confesional;
- prevención de la discriminación indirecta;
- autonomía moral humana;
- responsabilidad indelegable;
- evaluación de impacto;
- auditoría;
- supervisión;
- reparación.
La inteligencia artificial puede asistir, organizar y recomendar.
Pero no debe definir quiénes somos.
Puede procesar textos religiosos.
Pero no adquiere fe ni autoridad espiritual.
Puede producir inferencias.
Pero no todas las inferencias son legítimas.
Puede operar con autonomía técnica.
Pero la responsabilidad moral sigue perteneciendo al ser humano.
La tecnología debe permanecer subordinada a la dignidad, la libertad y la conciencia. Porque una sociedad democrática puede corregir errores, revisar procesos y superar ineficiencias. Lo que no puede permitir es que la conciencia humana sea convertida en objeto de clasificación, manipulación o dominio algorítmico.
David Torres Barreto
0 Comentarios