La opción soberana : ¿en qué ordenador, bajo qué leyes?

Agents at Work — CC BY 4.0

Has creado un agente. Aquí tienes una pregunta que el agente nunca te ha planteado: ¿en qué ordenador se ejecuta realmente y a qué legislación están sujetos tus datos mientras están allí?

Para la mayoría de la gente, la respuesta sincera es «la de una empresa muy grande, en otro país, bajo las leyes de ese país», y nunca se lo han planteado, porque la herramienta simplemente funciona. Esta lección trata de reflexionar sobre ello, porque, para algunas de las tareas que realiza un agente, la respuesta cambia lo que deberías crear.

La disyuntiva, expresada sin rodeos

Aquí hay una disyuntiva real, y fingir lo contrario no ayuda a nadie.

• Una herramienta de frontier pública —los grandes modelos alojados en EE. UU.— es, en este momento, normalmente la opción más potente. También es la opción en la que tus datos quedan fuera de tu control: se alojan en una infraestructura propiedad de una empresa sujeta a la jurisdicción de otro país. En virtud de la ley CLOUD , las autoridades estadounidenses pueden acceder a los datos que obran en poder de proveedores de propiedad estadounidense, independientemente de dónde se encuentren físicamente en el mundo. Para gran parte del trabajo habitual, esa compensación es aceptable y la aceptarías a sabiendas.
• Una opción soberana —un modelo que se ejecuta en tu propio ordenador, o en una infraestructura alojada en Nueva Zelanda o en la UE que tú controlas— mantiene la custodia. Tus datos permanecen bajo tu control y tu legislación. El coste también es real: puede ofrecer menos prestaciones, requerir más trabajo de configuración y no tendrá el acabado de las grandes herramientas públicas.

Ninguna de las dos es «la respuesta correcta». La clave está en tomar la decisión de forma deliberada, en función de lo que maneja el agente —que es el Pilar 3: la calidad de la IA como base, aplicada a la infraestructura en lugar de a las instrucciones—.

Cuándo debe prevalecer la custodia

Vuelve a plantearte la cuestión de los datos del Nivel 1. Cuanto más manipule el agente la información personal de otras personas —solicitantes, pacientes, miembros, whānau—, más peso tendrá el aspecto de la custodia en la balanza. «Es más cómodo en la herramienta pública» es una respuesta débil cuando lo que le estás proporcionando es un montón de vidas ajenas, que se guardan en fideicomiso.

Aquí es también donde la obligación de te Tiriti deja de ser abstracta. Si un agente tuviera acceso a información sobre Māori o perteneciente a Māori — personas físicas, whānau, hapū, iwi—, la cuestión de quién controla la infraestructura y quién la gestiona no es una mera nota al pie de página técnica; es una obligación de soberanía de datos (el Nivel 4 aborda esto adecuadamente). Un agente que envía discretamente esos datos al extranjero a un modelo público es precisamente la decisión que no debería tomarse por defecto.

El mismo patrón, una base diferente

La buena noticia es que nada de lo que has aprendido cambia. El patrón de desarrollo de la última lección —alcance, criterios, medidas de seguridad, pruebas— es idéntico tanto si el modelo se ejecuta en una herramienta pública como en una infraestructura soberana. Al diseño del agente no le importa dónde se produzca la inferencia. Por lo tanto, la opción soberana no requiere una habilidad diferente; se trata del mismo agente con los pies en el terreno que tú controlas.

Esa es la dirección hacia la que apunta nuestro propio trabajo: «The Village» existe para ser el extremo soberano de este espectro: el mismo tipo de agente, ejecutándose en una infraestructura bajo la jurisdicción de Nueva Zelanda y la Unión Europea, en lugar de en el extranjero. Hay que reconocer que ese extremo del espectro es más joven y más rudimentario que las pulidas herramientas públicas; la demostración es un punto de partida, no un producto acabado. Pero la razón por la que existe es precisamente esta lección: para que «mantener la custodia» no tenga por qué significar «prescindir de un agente».

El paso hacia la creación

Para el agente que crearías, hazte la pregunta que la herramienta nunca plantea:

• ¿Con qué entra en contacto: con mis datos o con los de otras personas que se custodian en mi nombre?
• ¿Dónde se produce la inferencia: en qué ordenador, en qué jurisdicción?
• ¿Justifica la sensibilidad de los datos la disyuntiva entre capacidad —pública y capaz— o soberanía y bajo mi control?

A veces la respuesta es la herramienta pública, elegida a sabiendas. A veces es una infraestructura soberana, porque la custodia importa más que el acabado para estos datos. La respuesta equivocada es aquella que nunca te has planteado.

Siguiente

Nivel 4: poner el agente en funcionamiento, supervisarlo mientras se ejecuta, la legislación a la que estás realmente sujeto y las obligaciones que tienes para con las personas que se encuentran al otro lado del mismo.