Chat-GPT y la Inteligencia Artificial: La urgencia de tener precaución con la tecnología

Docente de la Universidad de Chile abordó el funcionamiento de esta herramienta digital.

Muchas empresas con enfoque tecnológico están buscando servicios-productos que ayuden al bienestar social, desde problemas físicos individuales hasta operaciones o gestión empresarial. Así como en la década de los ‘80 apareció el primer prototipo de Excel que ayudaba a la eficiencia de los cálculos y administración de datos, replanteando los trabajos que en esa época se estaban haciendo, mas no reemplazándolos.

Así lo señala Franco Mansilla, docente de la Facultad de Economía y Negocios de la Universidad de Chile, quien comenta que, en la actualidad, Chat-GPT, elaborada por Open-AI y puesta a disposición de los usuarios el año 2022, comenzó sus desarrollos con un enfoque en la investigación, la que ahora, por su avance, se transformó en una empresa comercial, “la cual quiere replantear, mas no reemplazar, lo que hoy existe. Lo importante, sin embargo, es ser precavidos y comprender su funcionamiento y limitaciones. El dicho ‘el que no conoce a Dios a cualquier santo le reza’ hace alusión a lo que hoy en día ocurre en el mundo con la herramienta Chat-GPT”, sostiene.

Este sistema funciona por medio de información histórica de sitios web; textos académicos; medios de comunicación; documentos legales y enciclopedias actualizadas hasta septiembre de 2021. “Entrenada con estos datos históricos para detectar patrones mediante el uso de distintas técnicas ofrecidas por la Inteligencia Artificial (IA), su uso resulta sencillo, solo se necesita hacer una pregunta, preferiblemente con un contexto, para que la herramienta ofrezca una respuesta coherente, pero no necesariamente correcta. No obstante, no es posible saber de dónde obtiene las distintas fuentes de información que se basa para construir dicha respuesta”, detalla el académico.

Agrega que los expertos en estos temas recomiendan ser muy precavidos al usar estas tecnologías, ya que son herramientas poderosas que pueden persuadir a personas influenciables. De hecho, hay empresas que bloquearon el uso de estas debido a que los trabajadores se basan en las respuestas automáticas para tomar decisiones y entregar resultados, cargando información sensible de la empresa en el chat para que esta herramienta permita hacer análisis, resumen o insight. El problema de esto es que la IA aprende y, al hacerlo, utiliza la información sensible de la empresa, ofreciendo dicha data a una gran masa de usuarios.

“Ahora bien, ¿es bueno restringir estas herramientas? En principio, no. Son herramientas poderosas, con grandes avances tecnológicos, pero aún no es el momento de confiar 100% en ellas, como hoy en día confiamos en las funciones que ofrece Microsoft Excel. Las empresas y las instituciones educacionales tendrán que saber convivir con estas herramientas, porque es una de las formas de aprovechar la tecnología para poder encontrar oportunidades de crecimiento”, opina Mansilla.

Respecto a nuevos servicios similares, el docente comenta que ya existen otras instituciones y empresas que están trabajando en sus desarrollos para entrar a competir con Open-AI. Por ejemplo, Meta trabaja en su versión (LLaMA) que es una familia de modelos para reducir costos de inferencia en la respuesta; Stanford desarrolló una herramienta (DetectGPT) que detecta texto extraídos por Inteligencia Artificial; Google anuncia una API de PaLM; Midjourney v5 se dedica a la generación de imágenes, y, por último, Chat-GPT4 que permitirá cargar archivos e imágenes para dar instrucción de desarrollo, por ejemplo, de una página web.

Franco Mansilla indica que la evidencia apunta que grandes instituciones y empresas ya están trabajando en sofisticados avances tecnológicos que faciliten la operación, la gestión y estilo de vida de las personas. “Por esta razón, las personas usuarias de estas tecnologías, debemos ser conscientes de sus limitaciones y ser precavidos hasta el punto en que estas herramientas sean altamente fiables, permitiendo así el ingreso seguro de información para concretar los quehaceres diarios”, dice.

Concluye que, sin ir más lejos, no hay que basar nuestro conocimiento en una herramienta que todavía no es proclamada como Dios, “sigamos rezando (aprendiendo) con los métodos tradicionales de enseñanza hasta que llegue el momento que estas herramientas estén lo suficientemente certificadas para ir aprendiendo de ellas, sin dejar de lado los experimentos puntuales que se puedan hacer”.

0 ·

0 · 30 de marzo de 2023

W F T