6 riesgos de la Inteligencia Artificial que debes tener presente

La Inteligencia Artificial supone un hito para el desarrollo de soluciones y aplicaciones. Un cambio de paradigma que ya se está dejando sentir en todo tipo de sectores y tecnologías con una inversión que va a más. En Europa, por ejemplo, se espera que la Inteligencia Artificial crezca un 30% hasta 2026, siendo ya un mercado de 33.200 millones de dólares.

Si bien el concepto de Inteligencia Artificial en sí no es nuevo, las nuevas herramientas que han ido apareciendo si que muestran un nuevo paradigma con mucho potencial. La evolución hacia la IA generativa, es decir, aquella Inteligencia Artificial que permite construir algoritmos supervisados totalmente o en parte para crear nuevos activos digitales es ya una realidad.

Sin embargo, en este entorno con tanto potencial debemos ser también conscientes de los riesgos que puede entrañar su aplicación. Tal y como nos explicaba Juan José López Murphy, Head of Data Science and Artificial Intelligence de Globant, estos son los más habituales:

  • Sesgos / Burbujas /Dinámicas de poder: El uso de la IA tiene implicaciones éticas, como añadir sesgos de género, étnica o clase. Esto hace que las personas se limiten en burbujas de información y se pueda aumentar las diferencias de poder con opiniones cada vez más segmentadas. Hay que tenerlas en cuenta al desarrollar la IA.
  • Exposición legal: Tanto si se impugna la fuente (demandas contra CoPilot, StableDiffusion u otros) como si se impugna la aplicación (demandas rechazadas), hay que tener en cuenta cómo gestionar y reparar la exposición legal y las consecuencias que puede acarrear.
  • Rug-pulls: Algunos servicios empiezan siendo gratuitos para atraer la adopción (por ejemplo, chatGPT), pero pueden retirar el acceso en un futuro o comenzar a ser de pago, creando una dependencia insustituible por parte de las organizaciones.
  • Datos antiguos / alucinación / no recuperación / pérdida del sentido: Los modelos de IA se basan en sus datos de entrenamiento, por lo que pueden desconocer cierta información o darla de forma equivocada. Aun así, generarán respuestas «probablemente verosímiles», que pueden no ser ciertas ni coherentes. De ahí que sea clave la intervención humana para su verificación.
  • Costes y dependencia: Muchos modelos complejos consumidos como servicio constituyen dependencias externas. Si las organizaciones dependen en exceso, puede suponer que la aplicación se vuelva inviable o difícil de mantener.
  • Fosos injustificados: A menos que el lugar donde utilices el modelo de IA sea único en tu oferta de valor, todo lo demás es repetible por tu competencia. Por ello, no puede suponer la base diferenciadora del negocio, sino más bien una herramienta para hacerlo más ágil, productivo…

En este punto, también deberíamos añadir los riesgos asociados a la ciberseguridad. «Igual que se pueden utiliza para agilizar procesos o mejorarlos, podemos emplear la IA para el hackeo social. Una práctica que empieza ya a ser común, pero que en los próximos años veremos evolucionar creando serias amenazas», analizaba el responsable de Globant.

Tampoco nos podemos olvidar de los desafíos en cuanto a la protección de la identidad y propiedad intelectual que plantea la Inteligencia Artificial. De hecho, ya se han dado casos en los que ciertas obras no han podido ser registradas por haber sido creadas a partir de Inteligencia Artificial. También hemos visto fotografías, creadas a partir de la IA han inspirado noticias falsas, como la del Papa con abrigo blanco. Un problema que se podría solucionar «dando la responsabilidad última a quien ha generado o desarrollado esa IA», apuntaba el directivo.

Una Inteligencia Artificial bien aplicada

La adopción de la Inteligencia Artificial se ha duplicado en los últimos cinco años. El interés generado se ha unido a la generación de nuevas aplicaciones que permiten agilizar procesos, mejorar la experiencia del cliente o adoptar modelos más productivos y de valor.

Si bien algo más del 30% de las empresas españolas está ya utilizando alguna herramienta de Inteligencia Artificial, esto no es sinónimo de que la aplicación sea la correcta ni esté resolviendo los desafíos de la forma más adecuada.

La IA, bien planteada, permite agilizar procesos, mejorar la experiencia del cliente o adoptar modelos más productivos y de valor

La moda de la Inteligencia Artificial no debe cegar a partners y organizaciones que deben mirar más allá de la tendencia. «Debemos tener claro qué objetivos queremos alcanzar y después, valorar cómo podemos usar la IA para conseguirlos», apuntaban desde Globant. Un punto donde los partners deben actuar como consultores para tejer una estrategia bien gestionada y definida.

Y para conseguir aplicar la IA de la forma más óptima es clave conocer tecnología, procesos y por supuesto, estar especializados o colaborar con aquellos que sí lo estén. Con esas patas cubiertas podremos comenzar a trabajar en una tendencia que marcará el futuro de las innovaciones y la transformación digital de las empresas.