Sin duda, la inteligencia artificial ha acaparado los titulares en 2023. Se ha advertido de su potencial para provocar la extinción de la humanidad, se ha afirmado que supone una amenaza para la seguridad nacional, y uno de sus “Padrinos”, Geoffrey Hinton, ha renunciado a Google.
Los modelos generativos de IA (GenAI), como ChatGPT, parecen generar mucho debate en torno a su potencial para transformar nuestra vida cotidiana. Pero, ¿qué ocurre en el entorno empresarial? ¿Cómo aprovechar esta tecnología?
“La evolución de la GenAI está ocurriendo rápidamente, y aquellas empresas que no se adapten a tiempo quedarán rezagadas. Sería ideal que las organizaciones abrazaran esta avanzada tecnología en lugar de rechazarla. No obstante, esto no implica que una única solución sea adecuada para todas cuando se trata de modelos de GenAI.
Ciertamente, existen varios retos, que mencionaremos más adelante y que deben resolverse antes de que estos modelos sean ampliamente adoptados en entornos empresariales”, asegura Rafael Castillo, country manager de Infor en Colombia.
Aunque la IA Generativa, que no es otra cosa que generar contenido original como textos e imágenes a partir de data existente, es aún bastante incipiente, nos encontramos sin duda en un punto de inflexión. El procesamiento del lenguaje natural (PLN) que busca que las máquinas comprendan y manipulen el lenguaje humano está causando sensación.
En multitud de sectores, estos modelos GenAI pueden ayudar a facilitar la búsqueda de información a los usuarios y a proporcionar una capacidad de búsqueda en toda la empresa basada en PLN sobre los datos empresariales.
Así, tareas que antes parecían impensables fueran realizadas por máquinas, hoy es posible tales como: redactar correos electrónicos, informes, documentación de productos y contenidos web; crear descripciones de puestos de trabajo y solicitudes; realizar comparaciones de productos y proveedores; montar fotos, pistas de música y vídeos para campañas de marketing; y resumir libros, revisar y corregir cualquier contenido, entre múltiples opciones que permitan poner en marcha una iniciativa.
Y aún más increíble resulta pensar que la tecnología, por sí sola, bueno, basada en datos, pudiera captar los modismos y dialectos colombianos por la data que obtiene en texto y audio para que pueda ser entendida por los motores de procesamiento. Esto lo hace Cari, un chatbot que entiende el significado de ‘parce’, ‘eche’, y ‘ajá’. Pero lo importante de todo esto es analizar los retos a futuro que este panorama supone, por ello Infor se dio a la tarea de clasificarlos:
GenAI en acción y los retos del futuro
¿Cómo se ve esto en la práctica? Bueno, por ejemplo, las empresas con departamentos de TI e ingeniería de software pueden iniciar una práctica saludable de aprovechamiento de herramientas, como Copilot de Microsoft o CodeWhisperer de AWS para la generación de código.
Las empresas que necesiten crear sus propios modelos de lenguaje específicos para su sector, simplemente verificar información general, obtener reseñas y recomendaciones mediante la búsqueda de fuentes en la web, o que tengan la necesidad de combinar los datos privados de su empresa y enriquecerlos con información de dominio público, pueden integrarse con herramientas y plataformas GenAI como ChatGPT de OpenAI o AWS Bedrock.
Fiabilidad: aunque el contenido generado a partir de un gran modelo lingüístico parece original, en realidad está imitando un patrón basado en un conjunto de datos de entrenamiento similar al que ha sido expuesto. Muchas veces, se sabe que la información generada es falsa. Y la misma pregunta puede generar respuestas diferentes.
Privacidad: los datos y las condiciones de entrada que comparten los usuarios se utilizan para entrenar el modelo mayor. Así pues, pueden compartirse valiosos secretos comerciales de identificación personal, lo que inadvertidamente puede dar lugar a infracciones de la normativa. Además, la generación y el intercambio de contenido específico del negocio deben cumplir con estrictos requisitos legales y de privacidad de datos; por ejemplo, cuando las empresas realizan una Evaluación de Impacto de Protección de Datos (DPIA), deben garantizar el cumplimiento del Reglamento General de Protección de Datos (GDPR).
La mayoría de los proveedores de plataformas GenAI ofrecen la posibilidad de mantener la información de la empresa en exclusiva y no utilizarla para fines de formación general del modelo, pero es importante que las compañías que tengan previsto utilizar GenAI lo tengan en cuenta.
Parcialidad: el contenido generado por la IA está hecho a medida en función de la solicitud de entrada. También se puede entrenar el modelo utilizando sólo puntos de datos favorables sin exponerlo al panorama completo. En última instancia, puede moldear el resultado de la forma que desee, tanto útil como perjudicial.
El tono del contenido generado podría ser autoritario mientras que en realidad podría ser una opinión subjetiva y sería fácil manipular a un usuario crédulo e influir en sus opiniones de forma bastante convincente con GenAI. Además, el riesgo de generar noticias, clips de vídeo y audio falsos será cada vez mayor.