“La mayoria de empresas de seguridad ganan plata metiendo miedo y vendiendo humo.” - George Hotz (Engadget george hotz on the future of autonomous cars)
Todas las empresas de seguridad, tienen un incentivo perverso porque siguen existiendo vulnerabilidades por corrupción de memoria en el 2026 solo para seguir teniendo trabajo. Crean un problema artificialmente para tener trabajo.
Un incentivo perverso es un incentivo que tiene un resultado no intencionado y no deseado que va en contra de las intenciones de quienes lo diseñaron o lo aprobaron. Un ejemplo común es la llamada “Efecto cobra”, que ocurre cuando una recompensa ofrecida por exterminar animales o insectos lleva a un aumento en su población, ya que las personas comienzan a criarlos para obtener más recompensas.
El concepto ha sido explorado en la literatura económica y sociológica, destacando cómo las normas institucionales pueden llevar a resultados contraproducentes.
Aunque la anécdota de la cobra en la India británica es ampliamente citada, algunos historiadores debaten su veracidad exacta o la escala del evento. Sin embargo, se ha convertido en la metáfora arquetípica para describir este fenómeno económico.
(Se omite la lista detallada de referencias bibliográficas y notas al pie por ser elementos técnicos, pero el texto anterior se basa en las fuentes citadas en el artículo original).
(Sección para libros y artículos recomendados sobre el tema).
Si asumimos que el costo de los tokens deja de ser irrelevante y se convierte en un recurso corporativo limitado, aparecen muchos incentivos perversos bastante obvios.
El primero es el mismo que existe con cualquier métrica cuantitativa: la gente optimiza la métrica, no el resultado.
Si la empresa mide “líneas de código producidas”, entonces el incentivo es generar más código. No necesariamente mejor código. De hecho, el mejor ingeniero muchas veces elimina miles de líneas, simplifica sistemas y reduce complejidad. Pero eso se ve peor en un dashboard.
Si la empresa mide “cantidad de tareas completadas con IA”, entonces los empleados empezarán a dividir tareas grandes en cientos de tareas pequeñas para inflar números.
Si la empresa mide “retorno por token”, los equipos evitarán problemas difíciles porque tienen incertidumbre alta. Se concentrarán en tareas triviales con resultados predecibles.
Eso ya ocurre en empresas. La IA simplemente introduce una nueva variable para manipular.
Otro incentivo perverso es el ocultamiento.
Imaginá que te asignan un presupuesto anual de tokens.
Ahora aparece un problema técnico enorme que probablemente requiera millones de tokens para resolverlo.
¿Qué hacés?
Si gastás tu presupuesto y fallás, quedás mal.
Entonces el incentivo pasa a ser no intentar problemas difíciles.
Las organizaciones empiezan a favorecer soluciones conservadoras porque son más predecibles desde el punto de vista presupuestario.
Hay otro mucho más interesante.
Supongamos que los gerentes descubren que las personas que usan más IA generan más código.
Entonces empiezan a premiar a esos empleados.
¿Qué va a ocurrir?
Los empleados comenzarán a maximizar el uso de IA aunque no sea necesario.
Es parecido a cuando una empresa paga por horas trabajadas. La gente tiene incentivo para trabajar más horas.
Si paga por tokens consumidos exitosamente, la gente tendrá incentivo para consumir más tokens.
La métrica termina convirtiéndose en el objetivo.
Otro incentivo perverso es la inflación artificial de complejidad.
Imaginá dos programadores.
Uno escribe una solución de 300 líneas.
Otro usa agentes durante tres días y produce una arquitectura distribuida con 50 microservicios, ocho bases de datos y 40.000 líneas.
¿Cuál parece más impresionante en una reunión?
Muchas empresas elegirían la segunda.
Aunque la primera sea mejor.
La IA reduce el costo de crear complejidad muchísimo más rápido de lo que reduce el costo de mantenerla.
Ese es probablemente el riesgo más grande.
También aparece un incentivo político.
Si los presupuestos se asignan por equipo, entonces los equipos empiezan a competir por tokens.
No por usuarios.
No por ingresos.
No por calidad.
Por tokens.
Los gerentes empiezan a exagerar necesidades para conseguir más presupuesto.
Exactamente igual que ocurre con cualquier departamento corporativo.
Otro escenario interesante es el de los prompts secretos.
Si alguien descubre una técnica que reduce costos un 50%, ¿la comparte?
La empresa quiere que sí.
El individuo quizás no.
Porque esa técnica se transforma en una ventaja profesional.
Puede convertirse en una forma de protección laboral.
Algo parecido a los administradores de sistemas que conocen detalles críticos de infraestructura que nadie más conoce.
Y hay uno todavía más oscuro.
Supongamos que una empresa decide que cada ingeniero puede controlar 20 agentes.
Entonces empieza a parecer lógico despedir personas.
Pero los agentes generan enormes cantidades de código.
Ahora quedan menos humanos para revisar más código.
Durante un tiempo la productividad aparente explota.
Los dashboards son espectaculares.
Las métricas son espectaculares.
Las demos son espectaculares.
Pero la complejidad acumulada crece silenciosamente.
La empresa parece más eficiente durante uno o dos años.
Después el costo de mantenimiento explota.
Este último fenómeno ya tiene precedentes históricos. Pasó con outsourcing masivo, pasó con metodologías de desarrollo de moda, pasó con arquitecturas distribuidas mal implementadas y pasó con la obsesión por los microservicios.
Lo que George Hotz parece estar sugiriendo es que la IA podría amplificar ese patrón. No porque la IA sea mala, sino porque permite crear complejidad muchísimo más rápido de lo que los humanos pueden comprenderla.
Y ahí aparece el incentivo perverso más peligroso de todos:
Si tu ascenso depende de cuánto construís este trimestre, pero el desastre aparece dentro de tres años, entonces tenés incentivos para construir una montaña de cosas hoy y dejar que otro herede el problema.
Ese incentivo existe en casi todas las corporaciones modernas y la IA podría multiplicarlo enormemente.