Cualquiera que esté enamorado de los chatbots impulsados por IA como ChatGPT y Bard: ¡guau, pueden escribir ensayos y recetas! — finalmente se enfrenta a lo que se denominan alucinaciones, la tendencia de la inteligencia artificial a fabricar información.
Los chatbots, que adivinan qué decir basándose en información obtenida de Internet, no pueden evitar equivocarse. Y cuando fallan, al publicar una receta de pastel con medidas de harina muy imprecisas, por ejemplo, puede ser un verdadero alboroto.
Sin embargo, a medida que las herramientas de tecnología de consumo continúan incorporando IA, es crucial saber cómo usarla para servirnos. Después de probar docenas de productos de inteligencia artificial en los últimos dos meses, llegué a la conclusión de que la mayoría de nosotros usamos la tecnología de manera subóptima, en gran parte porque las empresas de tecnología nos dieron las pautas incorrectas.
Los chatbots son menos beneficiosos cuando les hacemos preguntas y luego esperamos que las respuestas que encuentren por sí mismos sean ciertas, que es para lo que fueron diseñados. Pero cuando se le pide que use información de fuentes confiables, como sitios web confiables y trabajos de investigación, la IA puede realizar tareas útiles con un alto grado de precisión.
«Si les das la información correcta, pueden hacer cosas interesantes con ella», dijo Sam Heutmaker, fundador de Context, una startup de IA. «Pero por sí solos, el 70% de lo que obtienes no será exacto».
Con la simple modificación de asesorar a los chatbots para que trabajen con datos específicos, generaron respuestas inteligibles y consejos útiles. Me ha transformado en los últimos meses de un escéptico gruñón de la IA a un entusiasta usuario avanzado. Cuando hice un viaje utilizando un itinerario de viaje planificado por ChatGPT, salió bien porque las recomendaciones procedían de mis sitios de viajes favoritos.
Dirigir los chatbots a fuentes específicas de alta calidad, como sitios web de medios bien establecidos y publicaciones académicas, también puede ayudar a reducir la producción y difusión de información errónea. Permítanme compartir algunos de los enfoques que he usado para obtener ayuda con la cocina, la investigación y la planificación de viajes.
planificación de comidas
Los chatbots como ChatGPT y Bard pueden escribir recetas que suenan bien en teoría pero que no funcionan en la práctica. En un experimento realizado por The New York Times Food Desk en noviembre, uno de los primeros modelos de IA creó recetas para un menú de Acción de Gracias que incluía un pavo extremadamente seco y un pastel denso.
También he encontrado resultados decepcionantes con recetas de mariscos generadas por IA. Pero eso cambió cuando experimenté con los complementos de ChatGPT, que son básicamente aplicaciones de terceros que funcionan con el chatbot. (Solo los suscriptores que pagan $ 20 por mes para acceder a ChatGPT4, la última versión del chatbot, pueden usar complementos, que se pueden habilitar en el menú de configuración).
En el menú de complementos de ChatGPT, seleccioné Tasty Recipes, que extrae datos del sitio web Tasty propiedad de BuzzFeed, un conocido sitio de medios. Luego le pedí al chatbot que elaborara un plan de comidas que incluyera platos de mariscos, carne de cerdo molida y guarniciones de vegetales usando recetas del sitio. El robot presentó un plan de comidas inspirador, que incluía banh mi de cerdo con limoncillo, tacos de tofu a la parrilla y pasta todo en el refrigerador; cada sugerencia de comida incluía un enlace a una receta en Tasty.
Para recetas de otras publicaciones, utilicé Link Reader, un complemento que me permite pegar un enlace web para generar planes de comidas usando recetas de otros sitios confiables como Serious Eats. El chatbot extrajo datos de los sitios para crear planes de comidas y me dijo que visitara los sitios web para leer las recetas. Tomó un poco de trabajo extra, pero superó un plan de comidas elaborado por IA.
Investigación
Cuando estaba investigando un artículo sobre una serie de videojuegos populares, recurrí a ChatGPT y Bard para refrescar mi memoria en juegos anteriores al resumir sus historias. Echaron a perder detalles importantes sobre las historias y los personajes de los juegos.
Después de probar muchas otras herramientas de IA, llegué a la conclusión de que, para la investigación, era crucial centrarse en fuentes confiables y verificar rápidamente la precisión de los datos. Finalmente encontré una herramienta que ofrece esto: Humata.AI, una aplicación web gratuita que se ha vuelto popular entre investigadores académicos y abogados.
La aplicación le permite cargar un documento, como un PDF, y desde allí un chatbot responde sus preguntas sobre el material junto con una copia del documento, destacando las partes relevantes.
En una prueba, descargué un trabajo de investigación que encontré en PubMed, un motor de búsqueda gubernamental de literatura científica. La herramienta produjo un resumen relevante del extenso documento en minutos, un proceso que me habría llevado horas, y revisé los aspectos más destacados para verificar que los resúmenes fueran precisos.
Cyrus Khajvandi, uno de los fundadores de Humata, con sede en Austin, Texas, desarrolló la aplicación cuando era investigador en Stanford y necesitaba ayuda para leer artículos científicos densos, dijo. El problema con los chatbots como ChatGPT, dijo, es que se basan en modelos web obsoletos, por lo que los datos pueden carecer de contexto relevante.
Planificación de viaje
Cuando una escritora de viajes del Times le pidió recientemente a ChatGPT que redactara un itinerario de viaje para Milán, el bot la guió para visitar una parte central de la ciudad que estaba desierta porque eran vacaciones en Italia, entre otros errores.
Tuve mejor suerte cuando solicité un itinerario de vacaciones para mí, mi esposa y nuestros perros en el condado de Mendocino, California. Como hice cuando planeé una comida, le pedí a ChatGPT que incorporara sugerencias de algunos de mis sitios de viajes favoritos, como Thrillist, propiedad de Vox, y la sección de viajes de The Times.
En cuestión de minutos, el chatbot generó un itinerario que incluía restaurantes y actividades para perros, incluida una granja con maridaje de vinos y quesos y un tren a una popular ruta de senderismo. Me ahorró muchas horas de planificación y, lo más importante, los perros se divirtieron mucho.
Conclusión
Google y OpenAI, que trabaja en estrecha colaboración con Microsoft, dicen que están trabajando para reducir las alucinaciones en sus chatbots, pero ya podemos aprovechar los beneficios de la IA al tomar el control de los bots de datos en los que se basan para encontrar respuestas.
Para decirlo de otra manera: el principal beneficio de entrenar máquinas con grandes conjuntos de datos es que ahora pueden usar el lenguaje para simular el razonamiento humano, dijo Nathan Benaich, un capitalista de riesgo que invierte en empresas de inteligencia artificial. El paso importante para nosotros, dijo, es combinar esa capacidad con información de alta calidad.
