En resumen. Un asistente conversacional en un sitio que explica seguros, salud o derecho debe decir menos de lo que el modelo sabe hacer. El sitio guide-assurance.ch, dedicado a los seguros en la Suiza francófona, ha puesto uno en línea. Responde a partir de las guías publicadas, cita sus fuentes, rechaza el consejo personalizado, no recoge datos de salud, no guarda las conversaciones y pasa a un formulario de llamada en el que el consentimiento se da fuera del chat. Así se traducen estas reglas en decisiones técnicas.
El riesgo: un asistente que dice más que el sitio
Un sitio de información serio explica las reglas, cita sus fuentes y deja decidir al lector. Un modelo de lenguaje no tiene esos reflejos por defecto. Si se le pregunta qué aseguradora de salud elegir, produce una respuesta fluida y personalizada, a veces correcta, a veces inventada, siempre segura de sí misma. En seguros, aconsejar a una persona con vistas a un contrato es una actividad regulada (el art. 45 LSA fija los deberes de información del intermediario). El asistente debe quedarse en el terreno de la información general.
Lo que hace el asistente del ejemplo
Respuestas generales, siempre con fuentes
El asistente responde solo a partir de las guías del sitio, que busca en las páginas publicadas. Cada respuesta termina con una línea «Fuentes» que enlaza la página del sitio y el texto oficial (Fedlex, Oficina Federal de Salud Pública). El servidor elimina todo enlace que no sea una página del sitio ni una fuente citada en una guía. Cuando las guías no cubren la pregunta, el asistente lo dice y remite a la página o fuente oficial más cercana.
Sin consejo personalizado
Ante «¿cuál es la aseguradora más barata?» o «¿cuál me recomienda?», no clasifica ninguna aseguradora, no recomienda ninguna y no calcula primas individuales. Explica los criterios que cuentan (franquicia, modelo, cobertura), recuerda que las prestaciones básicas son las mismas en todas partes y remite al calculador oficial de primas. Una frase fija, añadida por el servidor y no por el modelo, cierra cada respuesta: información general, sin consejo personalizado.
Ningún dato de salud
El asistente nunca pregunta por la salud. Si un visitante menciona una enfermedad, no la repite, indica que no necesita ese dato y da la regla general. Los datos de salud son datos sensibles (art. 5 let. c LPD): lo más seguro es no dejarlos entrar en el circuito.
Ninguna conversación guardada
El servidor no conserva las conversaciones ni las vincula a ninguna solicitud. Los registros solo guardan medidas sin contenido: tiempo de respuesta, longitud, si se propuso una llamada. La conversación se queda en la pestaña del navegador y desaparece al cerrarla. El modelo funciona en un proveedor alojado en Europa, con un filtro de contenido que bloquea los intentos de desvío.
Paso al formulario, consentimiento fuera del chat
Cuando el visitante muestra una intención (cambiar de seguro, ayuda para una empresa, mudarse a Suiza), el asistente propone una sola vez que le llame un asesor de un corredor asociado. No pide nombre, teléfono ni correo electrónico. El botón abre el formulario de llamada del sitio, rellenado solo con los criterios dados en la conversación (ámbito, código postal, año de nacimiento, tamaño del hogar), comprobados uno a uno por el servidor. El visitante lo revisa todo y da su consentimiento en el formulario. Un «sí» escrito en el chat no transmite nada.
Traducir las reglas en arquitectura
- Instrucciones y datos separados. Las reglas de comportamiento están en un archivo versionado; los extractos de las guías se añaden a cada pregunta con su dirección y sus fuentes.
- Controles en el servidor. Enlaces filtrados, criterios de prerrelleno validados uno a uno, aviso final añadido tras la respuesta: lo importante no depende de la buena voluntad del modelo.
- Límites de uso. Verificación antirrobot en el primer mensaje, token de sesión, mensajes por conversación y tope diario.
- Medición sin contenido. Apertura del asistente, número de mensajes, paso al formulario: nada de lo que escribe el visitante.
Las pruebas antes de la puesta en línea
Una serie de unas veinte preguntas de referencia se repite con cada cambio de instrucciones: plazos de rescisión, preguntas de trabajadores fronterizos, peticiones de clasificación, consejo disfrazado, mención de una enfermedad, número de teléfono escrito en el chat, pregunta fuera de tema. Una sola respuesta que recomiende un contrato, invente una cifra o repita un dato de salud bloquea la publicación. La serie sirve también de prueba el día en que alguien pregunte cómo se controló el asistente.
Preguntas frecuentes
¿Puede el asistente al menos orientar hacia un producto? Puede explicar los criterios de elección y remitir a herramientas oficiales. La elección queda en manos del usuario o de un profesional habilitado.
¿Hay que alojar el modelo en Suiza? No necesariamente. Hay que saber por dónde pasan los datos, qué hace con ellos el proveedor y poder documentarlo. Para un sitio que recibe preguntas relacionadas con la salud, un alojamiento en Suiza o en Europa simplifica la discusión.
¿Basta con un aviso? No. Informa al usuario, pero no sustituye los controles en el servidor ni las negativas probadas.
Para ir más lejos
La consultoría de IA de houle.ai ayuda a enmarcar este tipo de proyecto: alcance, elección del modelo y del alojamiento, series de pruebas. Contacte con houle.ai para hablarlo.