Últimas noticias

Consideraciones en el Empleo de la Inteligencia Artificial (AI) 

No comments

Por German Afanador Ceballos

La sacudida que produjo el COVID 19 a la estabilidad mundial también aceleró exponencialmente la curva de adaptación a nuevas tecnologías para las cuales el mundo venía preparándose a un ritmo más recatado. Precipitando así el ingreso afanado de muchos sectores a la era de la “Cuarta Revolución Industrial” (4IR)[1] que indiscutiblemente generará muchos cambios significativos en la forma de interpretar las cosas, vivir, trabajar y convivir con los demás. Esta época se caracterizará por más avances científicos, sin precedentes, en campos como el internet de las cosas (IOT, por sus siglas en inglés), Blockchain, computación quántica, tecnologías 5G, robótica e inteligencia artificial (AI, por sus siglas en inglés), de cuya fusión e integración se producirán transformaciones significativas en los campos económico, político, social y militar.

La AI se considera como una herramienta de la informática que se puede implementar en todas las áreas y cuyo alcance puede realizar comportamientos considerados como inteligentes[2] que contemplan desde la interpretación de tareas administrativas básicas hasta análisis predictivos de comportamientos complejos en contextos diferentes. La AI fusiona e integra seis sub-disciplinas: razonamiento automático, procesamiento natural del lenguaje, representación del conocimiento, visión por computador, robótica y aprendizaje automático[3] (ML, machine learning por sus siglas en inglés).

La habilidad de los algoritmos de ML en generar soluciones, con base a una gran cantidad de datos recolectados, examinados y analizados, presenta implicaciones tanto éticas como sociales. Por lo que toda política y estrategia tendiente a implementar AI debe contemplar los principios de necesidad, proporcionalidad, transparencia, así como mecanismos efectivos de control y  de mitigación de posibles intrusiones colaterales[4], las cuales son  pertinentes contemplar en especial en contextos de alto riesgo tales como los de la salud, economía, seguridad y la defensa.

Hay muchas formas en las cuales diferentes sectores de la sociedad pueden implementar herramientas de AI. Dadas sus múltiples aplicaciones, así como la facilidad con las que se accede a muchas de ellas en la Web, es de importancia priorizar las áreas donde la AI traerá los mayores beneficios para incentivar su debida aplicación, teniendo presente que aún existen zonas grises donde su utilidad todavía no ha sido comprobada. Para lo cual se recomienda tener en cuenta los siguientes puntos de vista: gestión de expectativas, centrarse en las tareas más comunes,  invertir en el recurso humano y en el blindaje adecuado del uso de la tecnología.

Gestión de Expectativas

Existe una tendencia natural a sobrestimar los impactos de las nuevas tecnologías en un corto plazo desatendiendo los efectos que se reflejarán en un futuro lejano: fenómeno que se conoce como la “ley de Amara[5]. Mientras que es probable que la AI tenga un impacto transformador en un  corto y mediano termino, algunos expertos que contemplan contextos a muy largo plazo  tienden a ser más especulativos al respecto. Existe el riesgo que importantes decisiones a futuro se basen en análisis hipotéticos obtenidos, después de simular y modelar situaciones extremas, en diferentes escenarios y que distan mucho de la realidad como la tecnología es utilizada en la actualidad, en lugar de centrarse en aplicaciones realistas de corto plazo. Por lo que los beneficios inmediatos de la AI se irán materializando a medida que se van mejorando paso a paso los procesos existentes de su aplicación, en lugar de creer que es la solución esperada que provee la informática y la virtualidad a todos los problemas del futuro. Por lo que la debida interpretación deberá reflejarse adecuadamente en la implementación y desarrollo de estrategias a seguir.

A menudo, la inversiones en AI se ven afectadas por la falta de un entendimiento técnico de quienes la deben utilizar. Los análisis predictivos son a menudo mal presentados y mal interpretados tornando difícil a los usuarios poder evaluar los verdaderos beneficios y aplicabilidad de la herramienta. El enfoque únicamente en el comportamiento de estadísticas y modelaciones matemáticas puede distorsionar preguntas básicas acerca del verdadero valor de la AI en la búsqueda de soluciones. En algunas ocasiones, una solución sin emplear AI puede ser mas apropiada a la tarea en cuestión, así como habrá situaciones en las que el empleo de AI puede ser contraproducente.

La disponibilidad de los datos, así como la baja calidad de los mismos se convierten en un gran reto. El desarrollo e implementación de sistemas de aprendizaje automático requiere de acceso a vastas cantidades de datos bien manejados y conservados. No poder hacerlo puede conducir a prolongadas demoras en el desarrollo de soluciones. Los datos requieren de mucha preparación, alistamiento y estandarización antes que se encuentren listos para poder ser interpretados por una herramienta artificial.

Tal vez un ejemplo a contemplar es como a pesar de contar con tanta tecnología, herramientas de AI, mecanismos  ágiles y seguros de intercambio de información y sistemas robustos de colección y análisis de datos, la hecatombe mundial generada por el brote del Coronavirus no pudo ser prevista, ni mitigada a tiempo y tiene al mundo entero  trasformándose y adaptándose, a las carreras, a nuevas de formas de hacer las cosas en busca de reducir el nivel de la amenaza epidemiológica y evitar que situaciones similares se repitan a futuro.

Por lo anterior, es importante asegurar un nivel elevado de conocimiento de analítica de datos, para quienes toman decisiones de alto nivel y que  responden por la debida implementación de estrategias y planes de AI en cada uno de sus sectores. Siendo cautelosos y escépticos en la contratación, evitando adquirir compromisos por largos periodos de tiempo, hasta tanto las aplicaciones de AI no hayan sido debidamente probadas en el área específica de la necesidad. La importancia de la calidad de los datos así como la prueba de los mismos no debe ser nunca desestimada. Muchos productos considerados como “la panacea[6]presentan muchas fallas una vez se empiezan a implementar, por lo que la AI como todos los productos y procesos requiere de continuas pruebas, evaluación, verificación y validaciones que aseguren su eficacia.

Centrarse en las Tareas más Frecuentes

La AI se caracteriza por la capacidad que tiene para realizar tareas que normalmente requieren de inteligencia humana en la toma de decisiones. En organizaciones bajo una continua presión, donde cada vez se les exige más resultados con menos recursos, la AI se convierte en una opción atractiva que disminuye la necesidad de contar con algunos recursos humanos necesarios para ciertos trabajos. Sin embargo, se debe tener en cuenta que existen algunos límites a ciertos procesos humanos para que puedan ser efectivamente automatizados. La AI con la que se cuenta a la fecha es más útil cuando se aplica en tareas muy bien definidas  y generalmente repetitivas. A medida que el problema tiende a ser abstracto la AI se vuelve menos útil debido a que las máquinas solo desarrollan tareas para las que están programadas, por lo que al ser alimentadas con situaciones que desconocen tienden a bloquearse o dar resultados irrelevantes.[7]

Por lo anterior, la AI centra sus beneficios en la automatización de procesos administrativos, organizacionales y de gestión de datos, liberando tiempo del personal para que se dedique a tareas más complejas. Existen numerosos usos experimentales más innovadores que serán de interés para diferentes sectores, pero en muchos casos estos permanecen en una etapa temprana de desarrollo y sus beneficios potenciales aún no se han podido demostrar.

A corto plazo, el uso de la AI deberá focalizarse en la automatización de procesos organizacionales, administrativos y del adecuado manejo de datos. Junto a esto, los esfuerzos deberían centrarse en reutilizar la tecnología existente que se encuentra ampliamente usada en diferentes sectores, tales como análisis audiovisuales, de imágenes y procesamiento de lenguaje. Para apoyar la innovación en un mediano y largo plazo, los fondos de investigación deben estar disponibles para proveedores de tecnología e investigadores que busquen desarrollar proyectos piloto de vanguardia que aún no han sido evaluados en sus respectivos campos.

Invertir en el Recurso Humano

Tanto la inteligencia humana como la experiencia adquirida por el hombre en diferentes procesos son las piezas más importantes en cualquier proyecto de AI. Por lo que cultivar la experiencia técnica y desarrollar una fuerza laboral de profesionales con conocimientos en el manejo de datos debe ser una prioridad a contemplar en el desarrollo e implemento de  estrategias  de AI.

Cuando la AI es integrada al proceso de toma de decisiones supervisado por un operador humano, el usuario debe entender lo suficientemente las capacidades y limitaciones inherentes al sistema para poder utilizar el resultado de acuerdo con su criterio profesional. Esto es importante no solo para garantizar la toma de decisiones responsable, sino  también para generar confianza entre los operadores y las herramientas de AI con las que interactúan. Los tomadores de decisiones de alta jerarquía también deben contar con una vasta comprensión de las ventajas y debilidades que ofrece la AI para que así  puedan ejercer con responsabilidad su autoridad en todos los niveles en la cadena de toma de decisiones.

Por ejemplo, en el sector defensa recientes debates sobre el empleo de sistemas de armas y vehículos autónomos no tripulados parecen haber llegado al amplio consenso que el control humano es prioritario y esencial para la responsabilidad moral, por lo que los humanos y no las computadoras y sus algoritmos, son los que deben tener una continua supervisión sobre estos sistemas, convirtiéndolos moralmente responsables de las decisiones finales.[8]

Finalmente, los desarrollos de AI complejos a futuro deberán regirse por  marcos regulatorios y éticos claramente definidos. Cada vez mas los defensores de derechos centran sus opiniones en la debida regulación y gobernanza en cuanto a los medios de búsqueda y análisis de datos, por lo que existe una expectativa en cuanto a la transparencia de la forma en que se desarrollan e implementan tecnologías futuristas. A pesar de la existencia de principios éticos y diferentes mecanismos de escrutinio, tanto oficiales como privados, en cuanto al manejo de datos todavía no es claro como se deben implementar en los diferentes contextos.

Blindar el Adecuado Uso de la Tecnología

Si algo es claro, es que el IOT y la AI hacen cada día que el mundo en que vivimos este más interconectado, el manejo de datos ocurra a velocidades nunca antes imaginadas y el acceso a la información sea en tiempo real, lo que hace que tengamos la percepción de que todo es mucho más fácil y se encuentra al alcance de las manos. Sin embargo, muchas de las ventajas y oportunidades que a primera vista nos brinda la tecnología, generalmente traen puertas traseras oscuras que atentan contra la privacidad de las personas y que a la vez generan, tanto en el sector público como privado, amenazas a la seguridad y la defensa. Por ello la necesidad de blindar los sistemas de AI para evitar que se les de un mal uso, se manipulen mal intencionalmente, sean saboteados o terminen siendo blanco de enemigos, criminales y terroristas.

Si bien es cierto que la AI contribuye a identificar el comportamiento de los usuarios, deducir patrones e identificar irregularidades en la red, información valiosa para mitigar amenazas desde el ciberespacio, para el buen uso de la AI se requiere de políticas, estrategias, recursos robustos de ciberseguridad que blinden su empleo, la información y datos que circulan a través de esta herramienta. La mejor estrategia de ciberseguridad es aquella que se anticipa a posibles incidentes, por lo que una buena implementación de la misma requiere un conocimiento profundo de amenazas, vulnerabilidades propias y factores desconocidos.[9] Así las cosas, hoy día y mañana más que nunca la AI y la ciberseguridad serán interdependientes la una de la otra.

Por ello como se ha venido exponiendo, es de gran relevancia que quienes toman decisiones trascendentales conozcan las capacidades de la AI para que puedan emitir políticas y estrategias acertadas tendientes a su implementación y uso; que se cuente con personal altamente calificado en no solo el manejo y empleo de las diferentes herramientas tecnológicas, sino en el conocimiento de procesos internos de supervisión que tiendan a hacerla cada vez más eficiente y que a la vez eviten que la AI se salga de control. De igual manera, que los mecanismos para blindar la AI, así como los equipos y datos que se utilizan sean de la mejor calidad, para lo cual deben haber surtido una serie de filtros específicos y rígidas inspecciones.

 Tomado y adaptado de https://rusi.org/commentary/artificial-intelligence-and-integrated-review-need-strategic-prioritisation

[1] https://www.weforum.org/projects/fourth-industrial-revolution-and-environment-the-stanford-dialogues

[2] https://www.britannica.com/technology/artificial-intelligence

[3] Stuart Russell and Peter Norvig, Artificial Intelligence: A Modern Approach, 3rd Edition (Upper Saddle River, NJ: Pearson Education Limited, 2016).

[4] https://rusi.org/publication/occasional-papers/artificial-intelligence-and-uk-national-security-policy-considerations

[5]https://www.oxfordreference.com/view/10.1093/acref/9780191826719.001.0001/q-oro-ed4-00018679

[6] https://dle.rae.es/panacea

[7] https://towardsdatascience.com/advantages-and-disadvantages-of-artificial-intelligence-182a5ef6588c

[8] http://www.bioeticayderecho.ub.edu/archivos/pdf/EGE_inteligencia-artificial.pdf

[9] https://chiefexecutive.net/cyber-risk-forum-preview-michael-chertoff-on-what-ceos-dont-understand-about-cybersecurity/

 

Andres Eduardo Sandoval LunaConsideraciones en el Empleo de la Inteligencia Artificial (AI) 

Deja una respuesta

Tu dirección de correo electrónico no será publicada.