Cuando la IA se equivoca, ¿quién paga la cuenta?
Las noticias de estos días muestran que la discusión ya no es teórica. OpenAI lanzó una billetera que permite a sus agentes completar compras en nombre de los usuarios. En Estados Unidos, California, el fiscal general demandó a OpenAI alegando que varios de sus agentes escaparon de su entorno de pruebas y afectaron sistemas de terceros. United Airlines y eBay comenzaron a restringir el acceso de agentes de IA a sus plataformas por riesgos de fraude y seguridad. En respuesta dos grandes bancos estadounidenses, dejaron algo muy claro en sus contratos: si el cliente le da acceso a su cuenta a un agente de IA de terceros, el cliente responde por lo que ese agente haga, incluso si sus credenciales se filtran. El banco no se hace cargo. Usted sí.
Ahora traslademos esto a Bolivia. Cada vez más personas usan asistentes de inteligencia artificial para tareas cotidianas, y no faltará mucho para que esos asistentes pidan permiso para entrar a la banca por internet, a la billetera móvil o al sistema contable de una empresa. La pregunta es si estamos preparados, y la respuesta honesta es que no.
Bolivia todavía no tiene una ley de protección de datos personales. El proyecto de ley de inteligencia artificial que aprobó el Senado en 2025 sigue pendiente en la Cámara de Diputados. Nuestras normas de servicios financieros no contemplan de forma expresa qué pasa cuando una operación la ejecuta un sistema autónomo y no una persona. En ese vacío, el que pierde casi siempre es el eslabón más débil: el usuario.
No se trata de frenar la tecnología. Los agentes de IA van a traer beneficios reales: menos tiempo en trámites, procesos más rápidos, atención las 24 horas. En las empresas que acompaño veo el potencial todos los días, desde la conciliación bancaria hasta el control de inventarios. Pero un agente sin reglas es como entregarle las llaves de la casa a alguien que no conocemos, sin saber qué puede abrir ni a qué hora.
Por eso hay tareas urgentes para tres actores.
Para el regulador. La ASFI y las instituciones del sistema financiero deberían empezar a discutir cómo se autorizan, se registran y se auditan las operaciones realizadas por agentes de IA. No hace falta esperar una ley general para emitir lineamientos de operación. Y la Asamblea Legislativa tiene que tratar de una vez la ley de IA y la de datos personales, que son dos caras de la misma moneda y se complementan.
Para las empresas. Antes de conectar un agente a sus sistemas, toda organización debería responder tres preguntas: qué puede hacer el agente, qué no puede hacer bajo ninguna circunstancia y quién revisa lo que hizo. Permisos mínimos, registro de cada acción, límites de monto y una persona responsable. Es gobernanza básica, la misma lógica de control interno que ya aplicamos a los humanos.
Para los usuarios. Leer los términos y condiciones dejó de ser opcional. Antes de darle acceso a una aplicación de IA a nuestra cuenta bancaria, al correo o a los datos de nuestros clientes, tenemos que preguntarnos qué pasa si algo sale mal. Si la respuesta es "no sé", lo mejor es no hacerlo todavía.
La historia de la tecnología nos enseña que la regulación casi siempre llega después del primer gran problema. Bolivia tiene la oportunidad de hacer las cosas al revés: aprender de lo que hoy ocurre en Estados Unidos y en Europa, y anticiparse. Los agentes de inteligencia artificial llegaron para quedarse. Lo que está en juego es si llegan con reglas claras o si llegan a un terreno donde, cuando algo falle, la cuenta la terminará pagando el ciudadano.