https://geohot.github.io/blog/jekyll/update/2023/04/26/a-person-of-compute.html
La unidad básica: “una persona de cómputo”
Hotz define una persona de cómputo = 20 PFLOPS, equivalente a 64 GPUs NVIDIA A100 (un rack completo de 42U), consumiendo unos 30 kW. Según él, estamos en la “era del rack de una persona”.
Ejemplos con modelos reales
- LLaMA se entrenó en un clúster de 2048 A100s (el máximo que puede trabajar junto por limitaciones de topología de red), lo que equivale a 32 “personas” de cómputo. El entrenamiento tomó unas 500 horas (3 semanas), lo que en términos de “persona-años” equivale a unos 2 años de trabajo humano.
- GPT-4, en cambio, habría requerido algo así como 100 persona-años de cómputo.
Comparando con una PC de escritorio
Una computadora de escritorio normal (~50 TFLOPS) sería como “un ratón” de cómputo: 1/400 de una persona. Hotz introduce el concepto de “Moores” (duplicaciones tipo Ley de Moore) para medir cuántos saltos generacionales separan a un equipo cualquiera de una PC actual.
Usando datos de tarjetas NVIDIA (GTX 1080, RTX 2080, 3090, 4090), calcula que la potencia se duplica aproximadamente cada 2 años. Con eso arma comparaciones curiosas:
- El clúster de Facebook (2048 GPUs) equivale a estar 16 años “adelantado” en el tiempo.
- El supuesto clúster de Google de 9 exaflops (~450 “personas”) equivaldría a tener una computadora del futuro, unos 24 años adelantada.
El costo y la escala “Humanidad”
- Una “persona de cómputo” cuesta hoy unos $250.000, así que un clúster de 450 personas costaría ~$115 millones.
- Comparando con la ISS (~$100.000 millones, lo más caro que la humanidad construyó), un proyecto de esa escala equivaldría a 400.000 “personas” de cómputo, lo que él llama “un Tampa” (por la población de esa ciudad).
- Y define “una Humanidad” como 20.000 Tampas (es decir, cómputo equivalente a toda la población humana pensando en paralelo).
Sus proyecciones finales
Extrapolando las tendencias de crecimiento:
- En 24 años podríamos construir “una Humanidad” de cómputo por el costo de la ISS.
- En 44 años, el Google del futuro tendría una Humanidad.
- En 54 años, un clúster normal equivaldría a una Humanidad.
- En 66 años, tendrías una Humanidad de cómputo bajo tu escritorio.
Cierra el artículo con un tono informal, diciendo que ojalá esto pase antes. También menciona, de paso, que su estimación personal para la “Singularidad” es el año 2038 (le gusta porque coincide con el desbordamiento del timestamp Unix).
En esencia, es un ejercicio de divulgación semi-humorístico para darle intuición a la gente sobre qué tan rápido crece el poder de cómputo disponible, usando “personas equivalentes” como vara de medir en lugar de FLOPS abstractos.