ChatGPT se podrá personalizar con esta configuración para evitar ofensas

ChatGPT ha sido el centro de atención en este inicio de año, pero una de las características que ha molestado a los usuarios es ver cómo el contenido que genera esta inteligencia artificial (IA) puede resultar ofensivo en ciertos casos y desde OpenAI dieron detalles de cómo van a resolver esta situación.

A través de su blog oficial, la compañía reveló que está desarrollando una versión mejorada para la IA, con el objetivo de poder “personalizarlo”.

Esto se da producto de algunos resultados que han compartido los usuarios, quienes los “consideran políticamente tendenciosos, ofensivos o censurables”.

Le puede interesar: Windows añade inteligencia artificial al buscador Bing para generar imágenes con texto

Esta inteligencia artificial opera de la siguiente manera: cuenta con una serie de redes neuronales en las que primero se realiza un pre-entrenamiento gracias a un gran conjunto de datos, luego se pasa a una fase de en la que se pule el modelo con una serie de revisores de respuestas, quienes van ajustándolas de acuerdo a ciertas directrices.

Este punto final es el que la empresa quiere mejorar. Desde OpenAI reconocen que el proceso es imperfecto y aseguran que “vamos a proporcionar instrucciones más claras a los revisores sobre los posibles problemas y retos relacionados con la parcialidad, así como sobre las figuras y temas controvertidos”.

Le puede interesar: ChatGPT: así se pueden crear contratos, ensayos y correos con inteligencia artificial

También mencionan que harán esfuerzos para reforzar los sesgos demográficos y aplicar mejoras basas en técnicas como la IA Constitucional, en la que el trabajo de las personas se enfoca únicamente en poner las reglas de aprendizaje.

“Nuestras pautas son explícitas en cuanto a que los revisores no deben favorecer a ningún grupo político. Los sesgos que, sin embargo, pueden surgir del proceso descrito anteriormente son errores, no características”, informó la organización.

A nivel general, la compañía trabajará en tres pirales para resolver el problema del contenido que puede ser ofensivo o que tiene un fuerte sesgo ideológico:

- Mejorar el comportamiento por defecto: el objetivo es eliminar los sesgos y también casos en los que el sistema “inventa cosas”, porque eso impacta en la postura de los usuarios.

- Personalización: ChatGPT permitirá que los usuarios ajusten su comportamiento, lo que permite que se generen respuestas con las que no estarían de acuerdo. Aunque de igual forma se pondrán límites, por lo que el reto que consideran en la compañía es encontrar el equilibrio en esas barreras para evitar “usos maliciosos” de la tecnología.

- Participación popular: quieren que la gente tenga la potestad de “influir en las reglas del sistema” e incluir “tantas perspectivas como sea posible”, lo que será pertinente para ámbitos educativos, sociales, políticos y demás.

Todo este aprendizaje estará en desarrollo, por lo que la compañía anunció que dará más detalles en “los próximos meses” y esperan seguir contando con la vigilancia de los usuarios para corregir más errores.

Le puede interesar: Por qué las IA como ChatGPT serían un problema para el medio ambiente

Luego de que Microsoft anunciara la incorporación de la inteligencia artificial de ChatGPT al sistema de su buscador, Bing, la empresa de tecnología ha empezado a desarrollar nuevas formas para acceder a esta plataforma por medio de dispositivos adicionales pues en la actualidad solo se encuentra disponible de forma limitada por medio de su versión web o en la aplicación de Edge.

Una de las primeras formas en las que Microsoft busca ingresar con este buscador al mercado de los aplicativos celulares es por medio de la creación de una plataforma de Bing nativa específicamente para dispositivos que usen el sistema operativo de iOS.

Pese a que la expansión del alcance del renovado sistema del buscador Bing estaría iniciando con una plataforma de escritorio y luego en dispositivos como los iPhone, esto no significa que los usuarios de dispositivos Android no vayan a beneficiarse. Es probable que el desarrollo de una aplicación nativa que integre estas capacidades a los celulares con este sistema operativo llegue próximamente al mercado.

Según el CEO de Microsoft, Satya Nadella, la inteligencia artificial que se encuentra integrada al servicio de Bing permitirá que las personas puedan realizar las búsquedas que deseen desde su navegador o aplicación especial para dispositivos móviles. Esta característica haría sentir al usuario como si su proceso de navegación estuviese siendo guiado por medio de un “copiloto”.