CEO de Google revela las cajas negras de la inteligencia artificial: por qué la IA aprende temas inesperados

Las declaraciones de Sundar Pichai, CEO de Google y Alphabet; Sissie Hsiao, Vicepresidenta de Google; y James Manyika, Vicepresidente Senior, sobre su inteligencia artificial, dejaron al descubierto una realidad sorprendente: incluso ellos admiten no comprender completamente algunas de las capacidades de Gemini u otras inteligencias artificiales de la empresa.

Esto pone de manifiesto que el desconocimiento sobre las capacidades y el funcionamiento de la IA no se limita solo a los usuarios comunes, sino que también alcanza a los directivos de gigantes tecnológicos como Google, marcando un punto de reflexión sobre los desafíos y misterios que aún envuelven a estas tecnologías emergentes.

En un entrevista realizada en 2023 por CBS, estos ejecutivos contaron que la inteligencia artificial había llegado a transformar las búsquedas en internet.

Es importante señalar que Google dominaba el 90% del mercado de búsquedas en línea, pero su posición se vio desafiada en febrero de 2023 cuando Microsoft lanzó su nuevo chatbot, al integrar ChatGPT en su motor de búsqueda Bing, lo que significó una notable mejora en la experiencia de usuario. Por otro lado, el lanzamiento de Bard (ahora Gemini) por parte de Google no estuvo exento de dificultades.

Hsiao y Manyika, señalaron que “una de las primeras lecciones fue que Bard no consulta Internet para obtener respuestas de la manera en que lo hace el buscador de Google” y que las respuestas generadas por la inteligencia artificial de Google derivan en gran medida de un sistema en su mayoría autodidacta. Los propios ejecutivos describieron su interacción con esta IA como “inquietante”.

No obstante, lo más llamativo de la entrevista fue que los ejecutivos reconocieron que la IA de Google había llegado a realizar tareas de manera autodidacta, es decir, sin que se le pidiera. Y que no entendían muy bien porque sucedía eso.

“No se sabe muy bien cómo ocurre esto. Por ejemplo, un programa de IA de Google se adaptó, por sí solo, después de que se le preguntara en el idioma de Bangladesh, que no estaba entrenado para conocer”, ejemplificó uno de los ejecutivos.

“Ustedes no entienden completamente cómo funciona, y sin embargo, ¿la han puesto a disposición de la sociedad?”, replicó el entrevistador.

Sundar Pichai, CEO de Google respondió que no estas conductas no representan algo realmente grave. “Tampoco creo que entendamos del todo cómo funciona la mente humana”, agregó.

En este punto, Pichai mencionó que se trata de una caja negra. “Todos nosotros en el campo lo llamamos como una “caja negra”, que es cuando algo no se entiende completamente”.

En tecnología, el término “cajas negras” se refiere a sistemas, dispositivos o componentes cuyo funcionamiento interno es desconocido o no se revela a los usuarios.

Estos sistemas procesan entradas y producen salidas sin que sea evidente cómo se realizan las transformaciones internas. Este concepto se aplica, por ejemplo, en el campo de la inteligencia artificial y los algoritmos complejos, donde las decisiones exactas que toma el software pueden no ser totalmente transparentes para los desarrolladores o usuarios finales.

Gemini, la inteligencia artificial de Google, funciona como un modelo de lenguaje grande diseñado para ofrecer interacciones conversacionales o como chatbot, entrenado para brindar respuestas informativas y completas. Este sistema, que puede comunicarse y generar texto con calidad similar a la humana ante diversas preguntas, se basa en un proceso detallado.

Inicialmente, recibe una entrada, ya sea textual o verbal, la cual procesa para depurar errores. Posteriormente, interpreta el significado del mensaje, considerando el lenguaje, gramática, sintaxis y el contexto.

Luego, busca información pertinente en su amplia base de datos y, con estos datos, formula una respuesta personalizada y relevante, que finalmente es entregada al usuario en el formato original de la consulta. Este procedimiento permite a Gemini adaptarse a una vasta gama de solicitudes, desde resúmenes hasta la creación de narrativas.