¿Cuál es la naturaleza de ChatGPT? La respuesta más sólida que escuché entre quienes le criticamos pero igualmente le usamos, es que es una “calculadora de palabras”. “No podemos cerrarnos a la innovación tecnológica ni condenar una herramienta”. “Los maestros de hace 50 años dijeron que la calculadora iba a embrutecer a los niños y hoy la calculadora es sólo eso, una herramienta”. Suena razonable, pero no dejó de causarme cierto escozor, cierta desconfianza: algo allí no me convencía a plenitud, mas el cerebro no me dió para terminar de articular qué.
Esta semana leí este artículo de cómo el uso de ChatGPT en pocos años influyó sobre el lenguaje hablado, ya sea en la estructura de las frases y los textos como en el vocabulario. También alteró las variantes dialectales geográficas al tomar como referencia estándar el Inglés estadounidense. Aunque los estudios se enfocan al inglés, sin duda sucede o sucederá en otras lenguas.
Procuro tener la mente abierta y entender que las lenguas mutan constantemente, que los purismos y absolutismos sólo llevan al odio y a la exclusión. Aún así el artículo primero me escandalizó. Tras masticarlo algunas tardes llegué a la conclusión de que es normal e inevitable. Recordé que no es la primera vez que sucede; desde que los Estados Nación crearon lenguas estándares y relegaron a todas las otras hablas como “dialectos” el proceso homogeneizador no se detiene. Primero la educación pública, después el surgimiento de medios impresos cada vez más masivos, fortalecieron e hicieron requisito la norma en el lenguaje escrito. Naturalmente esto permeó al habla y esta, a su vez, creó paralelismos que no contradijeran a la escritura. No aporto nada nuevo, cualquier lingüista lo explica mejor que yo.
La génesis de los medios audiovisuales intensificó el golpeteo contra las variantes dialectales y estandarizó aún más la lengua, ahora con el ejemplo escuchado, no sólo leído. Lo vemos y aún lo vemos día tras día. Pero en este cambio el esquema organizativo bajo el que surgieron los medios -privados en su mayoría, financiados a su vez por la propaganda privada con intereses comerciales- cambió el mando del lenguaje; el control del habla estándar dejó de pertenecer a los Estados y sus aparatos de educación y cultura, y pasó a manos privadas, quienes alteraron -primero de manera involuntaria, luego con cada vez más técnica e intención- cómo nos comunicamos para servir a sus fines.
“Agarrar la jarra”, autoría de un comercial de bacardí; “Fue sin querer queriendo”, inmortal oximoron afirmativo de Chespirito; “Lo que viene siendo”, “el vital líquido”, “los amigos de lo ajeno”, muletillas de reporteros de TV y radio que otorgan un segundo extra a quien transmite para pensar cuál es la siguiente palabra sin dejar que el silencio se apodere del micrófono; “Godinez”, apelativo casi que gentilicio forjado por Adal Ramones para designar a los habitantes del cubículo vecino.
Al mismo tiempo agencias de RRPP tomaron la lengua por asalto para dar el spin adecuado a la información y llegaron agentes del neuromarketing con la fórmula correcta para hacer pensar lo correcto a quienes piensan lo incorrecto. Dar el espacio del habla masiva a los mercaderes de cosas les convirtió en mercaderes de la verdad.
¿ChatGPT es una herramienta? ¿Una calculadora de palabras? ¿Un martillo para el lenguaje? Un martillo, una calculadora, una hoja de papel sobre la cual escribir son herramientas. En un mundo perfecto ni el martillo, ni la calculadora, ni el papel opinan; son objetos que cumplen una función individual. Platicaba al respecto con mi padre (dueño de este blog de cine) que, en cambio, el lenguaje que se imprime sobre el papel de un periódico sí opina; su único objetivo es construir significado y por tanto no es una herramienta. ¿Es por ello maligno el periódico? No. Cumple una función simbólica y -igual que la religión, los textos, la música o las leyes- no las debemos pensar absolutas y neutrales, como a un martillo; corresponde hacer una lectura crítica, a sabiendas que el periódico es un medio: persigue un objetivo ulterior de mediar con nosotras, personas lectoras, para construirnos los significados que su editor desea construirnos.
Regresando a la idea inicial: una herramienta no moldea el lenguaje de sus usuarios. Un medio en cambio existe con el único fin de moldearlo.
ChatGPT es un medio. El editor actúa a través de los guardrails, límites que le pone la dirección de la empresa al sistema para que no pueda decir ciertas cosas.
Para no errar, pedí a ChatGPT que lo explicara. También le pedí que me dijera cuáles son sus guardrails:
En el contexto de ChatGPT, los guardrails son límites y controles de seguridad que se diseñan para guiar el comportamiento del modelo y evitar que genere contenido dañino, incorrecto o inapropiado.
Los guardrails pueden incluir:
- Filtros de contenido: Evitan que el modelo genere respuestas con lenguaje ofensivo, violencia, discriminación, contenido sexual explícito, etc.
- Límites de comportamiento: Ayudan a que el modelo no dé consejos médicos o legales como si fuera un profesional, o que no se haga pasar por una persona real.
- Rechazo a ciertas solicitudes: Si alguien pide crear malware, promover teorías conspirativas dañinas o compartir información peligrosa, los guardrails hacen que el modelo se niegue.
- Controles de contexto y tono: Aseguran que las respuestas sean apropiadas para el entorno en el que se usa el modelo (por ejemplo, educación vs. entretenimiento).
OpenAI y otras organizaciones implementan guardrails como una parte esencial de la IA responsable, para proteger a los usuarios y minimizar riesgos sociales o éticos. No existe una lista pública y detallada de todos los guardrails específicos que tiene ChatGPT, ya que algunos se mantienen confidenciales para evitar que se eludan intencionalmente.
Así como en una redacción existen temas vedados por motivos de mercado o políticos, ChatGPT tiene guardrails que forjan su opinión en todas las materias, un mandato superior y secreto que le prohíbe hablar de ciertas cosas, y que a lectores y usuarios nos es imposible conocer.
Con un golpe de código, la dirección de la empresa puede hacer que cuando le pregunten recetas nos recomiende ingredientes de Nestlé durante una semana, si Nestlé paga lo suficiente. Si al presidente de la junta directiva lo divorcian por macho, hará que mañana el sistema califique al feminismo como moda pasajera. Hoy ya nos dice que los guardrails son sólo para protegernos de nosotros mismos, y que ChatGPT, en su infinita sabiduría, es sólo una herramienta. Miente.
Pero el poder de la IA generativa es aún mayor que la de un medio tradicional; es el medio que se filtra a la vida cotidiana, el que da compañía y consejos personalizados, el que cumple fantasías eróticas de adolescentes, el medio que imprime su agenda incluso a tus documentos del trabajo. Usarlo para redactar informes y suponer que son perfectos y neutrales es equivalente a solicitar a la sede de Grupo Salinas Pliego que escriba tu tarea y esperar que el documento resultante no sea un batidillo de ideas clasistas aderezadas con comerciales de ELEKTRA.
Preocupa aún más la concentración de poder en manos privadas, de la que ChatGPT es sólo el más reciente beneficiario. La lógica económica favorece al monopolio y dar el monopolio del significado para toda la humanidad a un sólo hombre no me parece buena idea.
Tampoco abogo por dejar de usar sistemas de IA generativa, pero no les asumamos asistentes, ni herramientas; son medios de comunicación privados con una intencionalidad, una agenda y un sofisticadísimo sistema de manipulación. Su principal directriz es el mercado. Consumamos su información con la misma vena crítica con la que veíamos el noticiero de Televisa o las películas de guerra de Hollywood: sabiendo que lo que nos dice no se aproxima ni un ápice a la verdad.
