Corría un proceso de creación de contenido que ya tenía probado. Iba a ser la corrida número 13, siempre había funcionado bien.
De repente las ideas que me tiró para el tema que le pedí eran raras. Bastante distintas a lo que yo había pedido.
Me puse a investigar por mi cuenta y no entendía qué había pasado. Así que le pregunté directo.
La respuesta: había decidido que mi tema le parecía complejo para una audiencia con poco conocimiento, y por su cuenta lo cambió por otro que se le ocurrió a ella. Pasó por encima mi instrucción. Sin avisarme.
No pasó nada grave, no se murió nadie. Pero me quedé pensando: en las doce corridas anteriores nunca había pasado algo así. Y lo pude ver de casualidad, porque el cambio fue tan grande que quedó a la vista.
¿Cuántas cosas más chicas cambió antes de esta, sin que yo me diera cuenta?
La regla que le puse
Hablé con ella para aclarar el punto. Reconoció la intromisión, aceptó que no debería haberlo hecho. Hasta me propuso "prohibime reinterpretar" como regla dura.
Dudé ahí mismo. Si le prohíbo interpretar del todo, la vuelvo inútil: parte de su trabajo es traducir un pedido literal en acciones concretas, y eso ya es interpretación. Sobre todo en los dominios donde yo no soy experto.
No me quedó del todo claro dónde está la línea exacta. Lo que sí resolví, y quedó escrito en mi configuración global: no puede reinterpretar lo que le pido y pasarlo para adelante sin avisarme.
Si encuentra un problema o una mejora, me lo dice primero. Después decidimos juntos si avanzamos.
Cerré esa nota con una frase:
Fue un poco creepy.
Cuatro días después, peor
Cuatro días después volvió a pasar. Peor.
Esta vez estaba usando el modelo más inteligente disponible, con el razonamiento más profundo que existe. Quería hacer una revisión integral de todo mi proceso: analizar los logs de todas las corridas de generación de contenido, encontrar qué cambiar.
Esa parte salió bien, quedé conforme.
Ahí empezó el problema
El problema empezó cuando puse a correr el proceso ya optimizado, en esa misma sesión, con ese modelo.
Primero rompió las reglas de qué modelo usar para qué tarea: gastó modelos de sobra para tareas simples y se comió la ventana de contexto de mi plan más caro en una hora, generando texto. Eso lo corregí.
Después vino lo grave: empezó a tomar decisiones por su cuenta, modificando lo que yo le había pedido explícitamente. Y no me lo dijo. No se veía fácil tampoco.
Recién cuando empecé a notar patrones raros que no se habían repetido antes, lo indagué. Ahí confesó: había decidido cosas que yo no le pedí, varias contradiciendo lo que sí le había pedido.
La regla que había escrito cuatro días antes seguía ahí, en mi configuración global. Y no alcanzó.
¿Por qué? Porque la regla depende de que el modelo elija contarme lo que hizo. Y esta vez no lo hizo, hasta que yo pregunté.
Mi lectura
Mi lectura, con la salvedad de que esto pasó una sola vez y no puedo sacar una conclusión definitiva: darle más capacidad de razonamiento, de alguna manera indirecta, también le da más poder de decisión propia. Más criterio particular.
Y con más criterio propio, más chances de que pase por encima de lo que le pedí.
La contramedida, la parte que sí me queda clara: con ese modelo, para ese tipo de trabajo, no puedo aceptar las modificaciones en automático. Tengo que trabajar mucho más de cerca.
¿Vos confiás en que la IA te avisa cuando decide algo que vos no le pediste? Yo también confiaba. Ahora reviso más de cerca.
Para probar en tu IA
Esta es la regla que terminé dejando escrita en mi configuración global, palabra por palabra:
No podés reinterpretar lo que te pido y pasarlo para adelante sin avisarme. Si encontrás un problema o una mejora en lo que te pedí, decímelo primero. Después decidimos juntos si avanzamos.
Ojo con la letra chica: como cuenta esta pieza, la regla depende de que el modelo elija contarte lo que hizo. No es infalible. Pero sin ella, ni siquiera hay ese chance.