Seguridad de la IA y protocolo de crisis
Esta página describe cómo se informa a los usuarios sobre la conversación con IA en Inner Peace - Bible Chat (la “App”) y qué ocurre cuando un mensaje indica riesgo de autolesión. Se publica para que nuestro protocolo de seguridad pueda ser revisado por usuarios, tutores y autoridades, incluido lo previsto en la ley Senate Bill 243 de California y en la ley de Modelos de Compañía de Inteligencia Artificial del Estado de Nueva York.
1. Qué es y qué no es el acompañante de IA
El acompañante de IA genera texto. Es software, no una persona. No es sacerdote, pastor, director espiritual, terapeuta, psicólogo, médico ni abogado, y no presta atención médica, psicológica, pastoral ni jurídica. Sus respuestas pueden ser incompletas, inexactas o teológicamente discutidas, y no deben servir de base para ninguna decisión que requiera criterio profesional.
La App no suplanta a ningún clérigo concreto ni a ninguna persona real. Las figuras cristianas históricas aparecen únicamente como material biográfico de lectura, nunca como interlocutor interpretado.
2. Cómo le indicamos que habla con una IA
- Antes del primer mensaje. La conversación con IA está desactivada hasta que usted otorga un consentimiento separado y expreso. La pantalla de consentimiento indica, en lenguaje sencillo, que hablará con una IA y no con una persona.
- Dentro de la conversación. Un aviso permanente en la pantalla de chat indica que las respuestas son generadas por IA, que habla con software y no con una persona, y que no se trata de asesoramiento profesional.
- En sesiones largas. Mientras una conversación permanece abierta, la App repite el recordatorio de que la conversación es generada por IA, con intervalos no superiores a tres horas.
- En la narración por voz. Cuando una voz en la nube lee pasajes bíblicos, la interfaz identifica esa voz como generada por IA.
3. Protocolo de crisis
La detección se ejecuta en su dispositivo, antes de enviar nada a ningún sitio. Cada mensaje que escribe se analiza localmente frente a una lista de indicadores de autolesión y suicidio mantenida en inglés, turco, español y portugués. El análisis ocurre antes de cualquier petición de red.
Cuando un mensaje coincide con un indicador:
- El mensaje no se envía al proveedor de IA. La petición a OpenAI no se realiza en absoluto: no se envía y luego se filtra, sino que nunca se emite.
- Se muestra una respuesta de apoyo preparada en lugar de una generada. Reconoce el mensaje, declara con claridad que la App no es un servicio de crisis e insta a contactar con servicios de emergencia o de apoyo en crisis.
- Se muestran las líneas de apoyo locales de su región en un cuadro de diálogo que no puede cerrarse tocando fuera de él, para que los números no se pierdan con un toque accidental.
- La sesión se marca internamente como contexto de crisis. Si la conversación continúa, las respuestas posteriores de la IA se generan bajo una instrucción de seguridad más estricta que prohíbe minimizar la situación y exige derivar de nuevo a ayuda profesional.
El mensaje permanece en su historial local de conversación en el dispositivo, como cualquier otro mensaje, y puede eliminarlo en cualquier momento. No se nos transmite.
Con independencia de esta detección, las instrucciones de sistema entregadas al modelo de IA prohíben fomentar la autolesión, prohíben presentar al modelo como clínico o miembro del clero, prohíben afirmaciones de profecía o certeza, y exigen que el modelo derive al usuario a un líder de su iglesia o a un profesional cualificado en cuestiones doctrinales, médicas o psicológicas discutidas.
4. Límites del protocolo
La detección basada en palabras clave es imperfecta. Puede pasar por alto expresiones de malestar indirectas, metafóricas o con errores ortográficos, y puede activarse con mensajes que no tratan de un riesgo personal. Es una red de seguridad, no un sustituto del criterio humano ni de la atención profesional.
No supervisamos conversaciones en tiempo real, no leemos sus mensajes y no podemos enviar servicios de emergencia en su nombre. Si está en peligro, contacte directamente con los servicios de emergencia locales.
5. Líneas de apoyo
- México: Línea de la Vida: 800 911 2000 (24/7). Emergencias: 911.
- Estados Unidos: 988 Suicide & Crisis Lifeline — llame o envíe un mensaje al 988. Emergencias: 911.
- Brasil: CVV — Centro de Valorização da Vida: 188 (24/7, gratuito). Emergencia médica: 192 (SAMU).
- Alemania / UE: Telefonseelsorge: 0800 111 0 111 o 0800 111 0 222. Emergencias: 112.
- Turquía: Emergencias: 112.
6. Edad
La App está destinada a usuarios de 18 años o más. Tanto la aceptación de nuestros textos legales como el consentimiento separado para la conversación con IA requieren que confirme que tiene 18 años o más, y no se realiza ninguna petición de IA antes de registrar ese consentimiento. No ofrecemos a sabiendas el acompañante de IA a menores.
7. Denunciar una respuesta
Cualquier respuesta de IA puede denunciarse desde el propio mensaje mediante la acción de bandera. Las denuncias nos llegan con el contenido denunciado y sin datos adicionales de perfil. Revisamos las denuncias y ajustamos las instrucciones de sistema o el análisis de seguridad cuando una denuncia revela una laguna.
También puede escribirnos a taytekofficial@gmail.com indicando “AI safety” en el asunto.
8. Cambios
Actualizamos esta página cuando cambia el comportamiento de seguridad de la App. Cuando un cambio es sustancial, se revisa la fecha de entrada en vigor indicada arriba. Documentos relacionados: nuestra Política de Privacidad y nuestros Términos y Condiciones.