Por ELIZABETH BENÍTEZ (1)
Los modelos de lenguaje generativos son el resultado de una industria tecnológica que, desde 2022, se ha convertido en un fenómeno de masas. El interés estratégico que representa OpenAI para Estados Unidos compite con China, país que cuenta con el predominio en infraestructura tecnológica. En un panorama dominado por 2 países y 4 empresas, Europa se hace presente para atender los riesgos de la desinformación, falta de transparencia, manipulación y nuevas formas de guerra y control social que emergen gracias a la hegemonía tecnológica de la IA en pocas manos. Se suma a este escenario, la contienda a través de armas como el Poder de Cómputo (HPC: High-Performance Computing) y el arte del Prompt.
Lo que inició Alan Touring en 1950 se conoce como Inteligencia Artificial a partir de la Conferencia del Dartmouth College y abarca desde el Procesamiento de Lenguaje Natural (PLN), la visión por computadora y el aprendizaje automático o Machine Learning. Hoy revoluciona numerosos ámbitos de la cotidianidad, pero grandes temas como los desafíos a la seguridad, el tema de la responsabilidad, la gobernanza y la ética son sólo ligeramente atendidos. De allí, la necesidad de propiciar la reflexión en educación en el campo de los modelos de lenguaje generativo simplificado como IA.
La IA asume labores como asistente para la optimización de las cadenas de producción, suministro y control de calidad, soportes en el mantenimiento predictivo; asistente de atención al cliente y personalización en recomendaciones de productos. Optimiza la experiencia del cliente en hotelería, banca y seguros. Y está presente en áreas álgidas como el diagnóstico médico, en la interpretación de imágenes, la generación de recomendaciones terapéuticas basadas en pronósticos de datos como herramientas para la gestión, análisis y automatización de experimentos. En investigación, ya es regularmente utilizada y ha transformado diversos campos desde el análisis de grandes conjuntos de datos, identificación de patrones y tendencias, hasta la automatización de tareas rutinarias. Se emplea para la generación y comprobación de hipótesis y automatización de procesos propios del campo científico reduciendo tiempos y costos.
No obstante sus beneficios, existen claros riesgos como los posibles sesgos y errores en la calidad de sus datos que pueden enturbiar la calidad y confiabilidad de sus resultados; el surgimiento de interrogantes acerca de la responsabilidad sobre las consecuencias éticas de su uso; la poca transparencia y la escasa comprensión de sus procesos por parte del usuario, en general, impactan negativamente en lo social y humano, planteando oportunidades, desafíos a la creatividad, y por supuesto, retos éticos que se renuevan con cada actualización tecnológica.
Inteligencia artificial para labores académicas específicas
Las labores académicas se concentran en la Inteligencia Artificial Generativa (IAG) que facilita la producción de contenidos en formato multimedia. Por el manejo de enormes volúmenes de información y reenfoque en las formas que interactúa con el conocimiento, la IAG tiene capacidad para entender, procesar, generar y transformar el lenguaje humano.
En este ámbito, debemos reconocer que la IAG posee el potencial de ser un recurso muy valioso que corre paralelo a la necesidad de formación e investigación en sus áreas de impacto. Por esta razón, el informe de la Unesco (2) (2023) contempla la necesidad de investigaciones relacionadas al empleo de herramientas de IA y el análisis de su impacto en escenarios que representan retos e implicaciones éticas como la integridad académica, la regulación y el acceso, la protección de los datos, el sesgo cognitivo, género y la diversidad.
El uso de herramientas de IAG en la educación superior constituye un tema de reflexión para la inclusión, las brechas, los derechos humanos y la desigualdad social, temas que han sido reiterados por la OEI (3) (2023) como base para argumentar que la incorporación de la IA en la educación debe trascender de la sola adaptación tecnológica y aplicarse en repensar el impacto de su enfoque, no sólo en el contenido, sino también en las estrategias, la evaluación y la experiencia educativa en general.
La siguiente es una tabla de herramientas de IAG que apoyan las labores académicas de investigación y divulgación accesibles por su estructura freemium, muchas de las cuales pueden ser accedidas desde cualquier parte del mundo, mientras que otras requieren del uso de Redes Virtuales Privadas o VPN para determinados continentes o países, como sucede con ChatGPT en Venezuela o Claude para Latinoamérica.
Fuente propia, 2024
Formación para noveles y experimentados
Del intensivo uso dado a la IA por los estudiantes, surgen temas relevantes por atender en el sector educativo. Mencionemos, por ejemplo, la necesidad de generar espacios de formación y diálogo en lo referente a la IA; establecimiento de políticas y directrices de uso; identificación de herramientas de IA como soportes de autogestión formativa y no como sustitutos de la función cognitiva; redefinición de estrategias y métodos de formación y evaluación, así como el establecimiento de pautas y políticas académicas relacionadas con su uso racional y crítico, temas ya regulados en otras latitudes.
Por ello, propiciar la atención en temas como la formación en cuanto al uso de herramientas de IA no es cuestión exclusiva de un sector etario, pues tanto noveles como experimentados requieren ir más allá de la destreza instrumental de las herramientas y sostener que un uso ético de la IA es fundamental. Los usuarios deben entender cómo utilizarla de manera responsable, evitar el plagio y citar adecuadamente las fuentes. Sin embargo, la lucha contra la dependencia tecnológica de la IA también genera problemas, además de la transparencia, la salvaguarda de la información personal y la equidad como elementos que requieren atención urgente.
Una opción saludable es propiciar el uso de estas herramientas para la optimización y logros del proceso enseñanza-aprendizaje entre docentes y estudiantes y utilizarla para el fomento de la reflexión crítica acerca de los posibles sesgos y prejuicios en sus outputs, y validar con criterio experto los resultados debidamente guiados hacia un uso donde se privilegie la inteligencia humana.
Fuente propia
Surge el tema de la identidad
Más allá de cualquier brecha generacional o tecnológica, en este momento de inflexión histórica salta la atención en el tema de los datos biométricos (4). Habitualmente empleados para acceder a servicios tecnológicos de diversa naturaleza, actualmente operan con la participación de sistemas de IA en aspectos relativos al análisis, detección, autenticación y verificación. Nos encontramos en escenarios de extrema vulnerabilidad para la identidad y la privacidad.
Un alto porcentaje de usuarios demuestra excesiva inocencia en el uso de herramientas que, deliberadamente, hacen uso de datos biométricos sin advertir los riesgos de compartir rasgos faciales, huellas digitales, retina y voz en redes sociales y aplicaciones que pasan a alimentar bases de datos de IA. Por esta razón, importa muchísimo la comprensión de cuáles y cuántos de estos constituyen el patrimonio de la identidad personal digital. Ya regulado en Europa por el Reglamento General de Protección de Datos, en Latinoamérica son escasos los ejemplos a citar, a excepción de Chile y Ecuador, con la Ley sobre Protección de la vida privada (LPVP de 1999) y la Ley Orgánica de Protección de datos Ecuatoriana de 2022, respectivamente (5).
La preocupación se legitima viendo descollar las transacciones financieras sobre datos biométricos que, de acuerdo al Informe Deloitte noticia (6,7), aumentaría de 3,8 mil millones de dólares en 2020 a 8,5 mil millones en 2025, por encima de los montos de negociación sobre datos sensibles (antes limitada a cuentas, contraseñas y documentos de identidad) según NORDVPN (8) en 2023. Ejemplo ha sido el escaneo de iris a cambio de criptomonedas, realizada por la empresa Worldcoin (9), propiedad de Sam Altman (creador de ChatGPT) en países como España, Francia, Argentina y Brasil que fue bloqueada por una medida cautelar a favor de la Agencia Española de Protección de Datos (AEPD) (10), originada en una investigación de 2022 de la Oficina Estatal de Baviera para la Supervisión de la Protección de Datos (BayLDA) (11).
El algoritmo de la IA y creatividad
El uso de la IAG plantea inminentes desafíos, uno es la relación entre el algoritmo y la creatividad hasta ahora, exclusivamente, humana. Conviene reflexionar en torno a la originalidad, el sesgo y la calidad de sus resultados, razón por la cual la producción masiva, la falsa autoría y la publicación fraudulenta constituyen temas de interés.
Los algoritmos están basados en datos-reflejo de las inclinaciones de sus desarrolladores, y esto podría amplificar o perpetuar sesgos preexistentes, por lo tanto, la originalidad de la IA es paradójica. Evidentemente, buenos Prompt van a producir mejores resultados, pero la creatividad genuina será desafiante dada la dependencia de datos preexistentes y patrones delineados por el entrenamiento de los modelos de difusión.
Así, en el contexto de la materialización de los potenciales riesgos derivados del empleo de IAG para producir libros virtuales, el gigante del e-commers Amazon decidió limitar (12) a sólo 3 libros diarios a cada autor, evidencia del uso de IAG para la creación masiva de productos literarios. Algo similar lo constituye la proliferación de obras que demuestran la suplantación de la autoría creados con IA y que se publican a través de portales de venta de e-books como Amazon o Goodread lo cual ya han sido denunciado por varios autores (13). A la saga, crece la cantidad de obras que cuentan con una IA como autor exclusivo, hoy más de 200 títulos disponibles en Kindle publicados por Chat GPT.
A la par de lo anterior, se desprende un tema muy preocupante para el ámbito del conocimiento universal: la profusión de libros escritos por herramientas de IAG resultantes de réplicas de obras originales literarias o científicas de divulgación, obras clave en áreas fundamentales del conocimiento que hoy se venden a muy bajos costos y, en muchos casos, copias fraudulentas firmadas por autores reconocidos parafraseadas e imitadas, traducciones o resúmenes no autorizados de obras emblemáticas del conocimiento universal todos generados por IA (14).
No obstante, es pertinente subrayar otra dimensión, ya que las herramientas de IAG pueden potenciar la creatividad siendo empleadas como soporte a la acción humana orientada hacia los objetivos propios de la creación en los que ninguna herramienta va a sustituir la inspiración, emoción, interpretación, contexto, método, estilo y voz de la sublime sensibilidad. Sin embargo, estas pueden apoyar diversos aspectos de la creación como podemos señalar a las Redes Generativas Adversariales (GAN) en la generación de arte visual, contenido musical, diseño multimedia, texto y optimización de imágenes, útiles para generar arte visual curiosamente creativo y expresivo, proporcionando una fuente de inspiración y exploración artística. Además, en el área musical, los algoritmos de aprendizaje automático pueden producir composiciones impulsando la experimentación e impulsando la creatividad. Por último, la escritura creativa, literaria automatizada por la IAG, se vale de su potencial para producir contenido escrito convincente de acuerdo con un formato y una rítmica apropiada a un género donde el autor, creador, guionista o editor sirviéndose de ellas puede, incluso, influir en el desarrollo de nuevas formas de narrativa artística, géneros y expresiones literarias.
La reflexión filosófica de la IA en el ámbito del conocimiento
Denominada por algunos la “nueva electricidad” debido a su capacidad de transformación, se percibe como una fuerza que está transformando nuestra manera de ser en el mundo gracias a su potencial disruptivo. Lo remarcable es que a nivel informático la IA ejecuta un proceso de simulación, no de “copia” de lo que hace una mente, su objetivo es producir una “mente artificial” y con ello ocurre un proceso de des–subjetivización del conocimiento, pasando de la representación del conocimiento a la simulación de operaciones cognitivas, mostrando el carácter operatorio de la mente (lo que sucede con las machine learning) pues estas captan la operación pensante y la describen y transforman en algoritmo a objeto de representar y luego simular la operación cognitiva.
Con esto queremos destacar que la emergencia de la IA podría servir para investigar fenomenológicamente los límites de la subjetividad, si pensamos que al simular operaciones que los sujetos realizan, su propósito es “identizar” las formas de naturalización de la conciencia, es decir, positivizándolas y esta podría ser una invitación a conocer cómo la máquina da sentido a la experiencia del hombre en el mundo, cosa que antes era competencia exclusiva de la inteligencia humana y, ahora, es ejecutada a través de dispositivos a los que se integra una Inteligencia Artificial. Así, quizás la IA sea de utilidad para aprender mucho más acerca de nosotros mismos.
Notas
1 Profesora Universidad de Los Andes, Mérida, Venezuela, en la Facultad de Humanidades, Escuela de Medios Audiovisuales, Departamento de Comunicación Social. Se desempeña en las áreas de ética y legislación, métodos de investigación, protección legal de obras y hermenéutica. Es abogada y politóloga, especialista en Derecho Procesal, Magister en Desarrollo, Doctora en Filosofía, Postdoctora en Hermenéutica e Interpretación y especializada en Derecho Tecnológico y Propiedad Intelectual. Se dedica a la investigación en gobernanza tecnológica y en ciencia y tecnología. Ha realizado estudios en IA Generative y Natural Language Processing Specialization en Deeplearning AI. Actualmente es coordinadora del “Diplomado en Inteligencia Artificial para la redacción de artículos académicos”, respaldado académicamente por ULA Internacional y coordinadora académica de A7media. Es apasionada de la filosofía, escritura, investigación y reflexión en torno al uso crítico de la tecnología.
2 unesdoc.unesco.org/ark:/48223/pf0000385146_spa
4 Los datos biométricos son las propiedades físicas, fisiológicas, de comportamiento o rasgos de la personalidad, atribuibles a una sola persona y que son medibles (https://inicio.inai.org.mx/DocumentosdeInteres/GuiaDatosBiometricos_Web_Links.pdf
8 https://nordvpn.com/es/research-lab/dark-web-case-study/
11 https://www.lda.bayern.de/de/index.html
14 https://www.washingtonpost.com/technology/2023/05/05/ai-spam-websites-books-chatgpt/ https://www.wired.com/story/scammy-ai-generated-books-flooding-amazon/
Noticias Relacionadas
El periodismo independiente necesita del apoyo de sus lectores para continuar y garantizar que las noticias incómodas que no quieren que leas, sigan estando a tu alcance. ¡Hoy, con tu apoyo, seguiremos trabajando arduamente por un periodismo libre de censuras!
Apoya a El Nacional