Divulgación: Qualcomm y Microsoft son clientes del autor.
La IA generativa se está propagando como un virus en el panorama tecnológico. Ha pasado de ser prácticamente desconocido hace un año a ser una de las tecnologías más populares de la actualidad, si no la mejor. Al igual que con cualquier tecnología, tienden a surgir algunos problemas con el rápido crecimiento, y la IA generativa no es una excepción.
Espero que surjan tres temas principales antes de fin de año de los que pocas personas hablan hoy.
La necesidad crítica de una solución híbrida
La IA generativa utiliza modelos de lenguaje masivos, consume mucha CPU y se está volviendo tan omnipresente como los navegadores. Este es un problema porque los centros de datos centralizados existentes no están estructurados para manejar este tipo de carga. Son E/S, CPU, base de datos, costo y tamaño limitados, lo que hace que un aumento masivo en la capacidad centralizada sea poco probable en el corto plazo, incluso si la necesidad de esa capacidad se vuelve vertical.
Estos problemas de capacidad aumentarán la latencia, reducirán la confiabilidad y, con el tiempo, podrían limitar el rendimiento y reducir la satisfacción del cliente con el resultado. La necesidad es un enfoque más híbrido en el que los componentes de IA necesarios para la velocidad se mantengan localmente (en dispositivos) mientras que la mayoría de los datos residen de forma centralizada para reducir las cargas del centro de datos y disminuir la latencia.
Sin una solución híbrida, donde los teléfonos inteligentes y las computadoras portátiles pueden hacer gran parte del trabajo, es probable que el uso de la tecnología se estanque a medida que disminuye la satisfacción, especialmente en áreas como los juegos, la traducción y las conversaciones, donde la latencia será más molesta. Con la traducción, esto será particularmente problemático porque la forma en que se realizan las traducciones siempre introducirá cierta latencia. Si el sistema de IA agrega más, podría inutilizar la herramienta asociada.
Qualcomm publicó un informe de rendimiento que parece particularmente preocupante en este sentido, pero es probable que solo sea la punta de un problema de rendimiento desagradable que se avecina.
El problema de la seguridad
Los modelos de lenguaje utilizados por la IA generativa incluyen información que no se ha verificado por completo. Esta misma semana, Elon Musk amenazó con demandar a Microsoft por el uso de Twitter para entrenar su modelo de IA generativa. Dado que los datos de Twitter provienen de sus clientes (y no fueron creados por Twitter), es probable que la demanda fracase en cuanto al fondo. Es decir, si Musk presenta una demanda para empezar; su historia es más larga sobre amenazas que sobre acciones. Esto aún destaca una preocupación creciente sobre la propiedad de los resultados generados por las herramientas de IA.
Puede obtener mucho de él analizando con éxito la información fácilmente disponible. Fui analista de la competencia durante un tiempo, y fue sorprendente cuánto podíamos averiguar sobre el negocio de un competidor utilizando información disponible públicamente. Pero esta investigación se realizó completamente a mano utilizando relativamente pocos datos. Estos nuevos modelos de IA ahora pueden extraer petabytes de datos y se expandirán rápidamente para usar exabytes e incluso zetabytes en el futuro.
La capacidad de estas herramientas para descubrir secretos de corporaciones, gobiernos e individuos no tendrá paralelo y la tecnología de seguridad necesaria para mitigar el problema no solo no existe en la actualidad, sino que también puede ser imposible de crear.
Peor para algunos, estas herramientas pueden analizar datos después del hecho, a menudo décadas después del hecho, descubriendo cosas que se pensaba que estaban enterradas de manera segura.
¿Problema de relación?
Las herramientas de IA generativa pueden interactuar con otros en nuestro nombre y presentar una personalidad muy diferente a la nuestra. Las herramientas pueden recrear nuestra imagen, voces e incluso gestos únicos mientras actúan como representantes.
Solía ser actor. Uno de los problemas con los actores es que los demás tienden a confundir a un actor con un papel que tiene poco que ver con quién es en realidad. En las relaciones, tu pareja bien puede estar enamorada de un personaje que interpretas, no de la persona que eres.
Con la IA generativa, este será un problema a gran escala, ya que permitiremos cada vez más que estas herramientas interactúen con colegas y tal vez incluso interactúen en nuestro nombre en sitios de citas. Las desconexiones entre lo que la gente cree que eres (basado en un proxy de IA) y lo que realmente eres podría dañar la confianza y hacer que las relaciones duraderas, tanto personales como profesionales, sean problemáticas.
A menudo nos encontramos con muchos problemas cuando construimos una relación para ocultar nuestros defectos; Las herramientas de IA podrían hacer esto aún más fácil. Como resultado, puede que nos resulte casi imposible confiar en quienes nos rodean.
A pesar de estos problemas, la IA generativa tiene el potencial de mejorar drásticamente la productividad, actuar como representantes, proporcionar una traducción casi instantánea y brindar respuestas a preguntas sin respuesta. Pero los problemas de latencia, seguridad y confianza son reales. Y se suman a los temores de pérdida de puestos de trabajo que se han cernido sobre la tecnología desde su llegada.
No me opongo a la IA generativa; Dudo que pudiéramos detener su progreso incluso si quisiéramos. Pero debemos comenzar a pensar en cómo lidiar con ellos antes de que el daño se vuelva inmanejable.
© 2023 IDG Communications, Inc.