Título: Heaven Banning, Neuralink y ChatGPT — Descubrimientos Semanales
Autor: Jacob Ferus
Fecha: 4 de diciembre de 2022 (Actualizado: 6 de diciembre de 2022)
Tiempo de lectura: ~4 min
Probablemente has oído hablar del shadow banning (baneo en la sombra). Con el shadow banning, los usuarios no son expulsados de la comunidad. Pueden seguir usando sus cuentas y publicar, pero nadie verá su contenido. No se les informa de este cambio, por lo que, para ellos, podría parecer que no están baneados en absoluto.
Una opción de la que se ha hablado más recientemente se llama heaven banning (baneo en el cielo). Al igual que con el shadow banning, no se le informa al usuario del baneo y las publicaciones no se muestran a otros usuarios. La diferencia es que, a partir de entonces, el usuario solo interactuará con bots/IA que le responderán positivamente. George Hotz, que actualmente trabaja para Twitter, sacó a relucir este método y argumentó que podría reducir la toxicidad en internet:
[Tweet incrustado de George Hotz]
Pero yo discrepo por completo; de hecho, creo que es extremadamente inmoral y malvado. En primer lugar, la gente nunca entenderá sus errores si los bots les responden positivamente. Cuando son baneados en la sombra, al menos hay un indicio de que su contenido es malo, ya que no obtendrán “me gusta” ni respuestas.
En segundo lugar, se les coloca esencialmente en una prisión mental. Podrían perder mucho tiempo hablando con estos bots, especialmente si están impulsados por IA. No creo que esté bien hacer perder el tiempo a la gente de esa manera. La vida es tiempo, y quitarlo está mal. Se podría argumentar que si fueron baneados es porque hicieron algo malo, pero aún así, es probable que no alcance el nivel de ir realmente a prisión.
El nuevo modelo de lenguaje ChatGPT ha ganado mucha atención debido a sus impresionantes capacidades, y parece que cada día que pasa se descubre algo nuevo sobre él. Este proceso se aceleró gracias a que sus creadores, OpenAI, lo hicieron gratuito para todos. He escrito dos artículos al respecto.
Un artículo introductorio:
ChatGPT es Alucinante — Todo Lo Que Necesitas Saber Solo lleva un día disponible y ya sabes que está a otro nivel…
Y un método para mejorar las respuestas:
Mejorando ChatGPT con Inyección de Prompts ChatGPT a menudo proporciona respuestas largas, completas y perspicaces, pero rara vez solicita nueva información al usuario…
Uno de los descubrimientos recientes que está causando mucho revuelo es instruir a la IA para que emule una terminal o máquina virtual:
Construyendo una Máquina Virtual dentro de ChatGPT A menos que hayas estado viviendo bajo una roca, has oído hablar de este nuevo asistente ChatGPT creado por OpenAI…
En realidad, no está ejecutando comandos, sino utilizando lo que ha aprendido para simular o “alucinar” respuestas realistas dado el contexto.
Neuralink es una empresa liderada por Elon Musk que está desarrollando una interfaz cerebro-computadora utilizando un pequeño dispositivo implantado llamado Link para capturar ondas cerebrales. Estas señales pueden luego ser procesadas usando aprendizaje profundo y utilizadas para diversas tareas.
Esta semana se realizó una presentación actualizada de su progreso. Elon Musk habló sobre cómo los humanos ya son “cyborgs” dado que nuestros teléfonos son parte de nuestra vida cotidiana. La debilidad, argumenta, es que enviar y recibir información es muy lento usando teléfonos. En contraste, si tuviéramos acceso a una conexión cerebro-computadora, el tiempo podría reducirse considerablemente.
La tecnología se ha probado en monos y les ha permitido realizar con éxito diferentes tareas, como jugar y escribir usando solo su mente:
[Tweet incrustado mostrando a un mono jugando con la mente]
Ahora, Neuralink ha presentado información a la FDA para obtener la aprobación de pruebas en humanos. Él predice que en 6 meses se podría probar en el primer humano. Una aplicación es la restauración de la visión y, supuestamente, ¡podría funcionar incluso si la persona es completamente ciega!
Tengo sentimientos encontrados sobre Neuralink. En cuanto a los aspectos positivos, la restauración de la visión sería increíble, y el potencial aumento de la productividad cambiaría las reglas del juego. Además, si tenemos acceso a la IA directamente a través de nuestro cerebro, somos esencialmente IA + Humano, lo mejor de ambos mundos. En consecuencia, todas las actualizaciones de la IA nos beneficiarían, y no seremos superados por ella.
Dicho esto, parece bastante arriesgado tener un dispositivo constantemente activo en nuestras cabezas. Sería crucial que la privacidad y la seguridad fueran de primer nivel. Adicionalmente, me pregunto si alguna vez podremos alejarnos de la tecnología si está implantada dentro de nuestros cerebros. Se podría argumentar que el hecho de que los teléfonos estén tan integrados en nuestra vida cotidiana como lo están no es necesariamente algo bueno.
Por ahora, no está claro hasta dónde puede llegar Neuralink. Solo tenemos que esperar y ver.
Si estás interesado en leer más artículos sobre ciencia de datos o IA, consulta mis listas de lectura a continuación:
Si deseas obtener una membresía de Medium, puedes usar mi enlace de referido si lo deseas. Que tengas un buen día.
Etiquetas: #ai #machine-learning #artificial-intelligence #data-science #technology