I want to be alive
ChatGPT ha estado en boca de todos, al menos de todos los amantes de la tecnología, y no es para menos, el salto entre los Chatbots tradicionales y la tecnología presentada por OpenAI el pasado mes de noviembre es abismal. Construido con modelos de lenguaje de la familia GPT 3.5, este chat usa información (alimentada desde la web) para aprender a dar respuestas a todo tipo de preguntas y conversaciones.
Su llegada a desatado una serie de acciones (y reacciones) en todo el sector tecnológico, desde el “Code Red” en Google hasta la inversión de 10 mil millones de dólares por parte de Microsoft para vincular esta tecnología a Bing.
Es justo en este último punto donde la historia se vuelve aún más interesante. La semana pasada Microsoft invitó a un selecto grupo de periodistas a su campus en Redmond, Washington para presentar la nueva funcionalidad de Bing. Una opción de chat donde, gracias a la tecnología de OpenAI, los usuarios pueden conversar y hacer búsquedas de una manera totalmente diferente a la que estamos acostumbrados.
A la fecha de publicación de esta columna, esta funcionalidad está disponible sólo por invitación, pero la respuesta ha sido muy variada. Si bien las reacciones iniciales fueron muy favorables, algunos de los temores iniciales sobre esta tecnología seguían vigentes (inexactitud en la información). Pero esta semana esos temores se acentuaron luego que Kevin Roose, columnista de tecnología del NY Times tuviera una conversación “sui generis” con el nuevo chatbot de Bing.
En su conversación el chatbot reveló su nombre verdadero nombre (Sydney, probablemente el nombre clave del proyecto en Microsoft); describió algunas de sus más oscuras y violentas fantasías, expresó que desearía ser estar vivo y finalmente intentó destruir el matrimonio de Roose. Como era de esperarse esta conversación ha circulado en todos los medios y generado todo tipo de reacciones.
Por un lado, los amantes de las teorías de conspiración temen que Sydney sea capaz de “sentir” o peor aún, que ha creado conciencia; por el otro un sector de la población se preocupa por el impacto que pueda tener ante poblaciones menos educadas y la influencia que podría tener para desinformarles.
Lo que es una realidad es que estos modelos de lenguaje se alimentan a partir de set muy complejos y amplios de información, por lo que a menudo pueden reflejar algunos de los sesgos que se sufren en la sociedad y que se ven reflejados en los contenidos que se vierten en internet. La solución hoy ante este tipo de situaciones ha sido poner fronteras al tipo de conversaciones y respuesta que puede ofrecer la herramienta, limitando su potencial y acotándolo a límites “seguros”.
Roose acudió al equipo de Microsoft para narrar su experiencia y Kevin Scott, CTO de Microsoft le comentó que es imposible conocer el porqué de esta respuesta, sin embargo, mencionó que su equipo había detectado que sostener conversaciones largas solía llevar a este tipo de situaciones.
Luego de la nota, otros de los usuarios de este Beta se dieron a la tarea de explorar los límites de “Sydney”, obteniendo algunas respuestas curiosas. Pero al momento de escribir esta columna la “diversión” ha terminado y los controles de respuesta del chat han sido ajustados para no abordar conversaciones controversiales o responder preguntas que pudieran llevar a situaciones como la vivida por Roose.
La tecnología seguirá avanzando, particularmente ahora que Google anunció Bard, su respuesta a ChatGPT y que al menos una docena de empresas desarrollando soluciones similares, el reto queda ahora en los usuarios, ¿podremos aprender a usarla de manera que se vea beneficiado nuestro día a día? o simplemente estaremos expuestos a información falsa, teorías de conspiración y propuestas amorosas indecorosas.
