El desafío de una IA responsable y colaborativa

La incorporación de IA responsable y colaborativa exige regulaciones, ética en el uso de datos y transparencia en los procesos. Descubre los desafíos actuales.

Sociedad27/04/2025Santiago JacquatSantiago Jacquat

Imagen representativa de los desafíos de una IA responsable y colaborativa

Rodrigo Acevedo, gerente general Entersoft

Mientras más se avanza en la incorporación de la Inteligencia Artificial (IA) en diversos ámbitos, surge una temática tremendamente relevante en torno a la utilización de los datos para el entrenamiento de modelos de IA.

Ya estamos siendo testigos de casos como el de la demanda que puso The New York Times y Daily News a Open AI, alegando la utilización de su contenido protegido por derechos de autor para el entrenamiento de ChatGPT. Ante sucesos como este, cabe preguntarse hasta dónde es posible proteger la data, qué tipo de información está siendo usada para aplicaciones de IA y de qué fuentes proviene, entre muchas otras interrogantes fundamentales.

Sin duda, para la incorporación y masificación de una IA responsable y colaborativa será preciso una regulación efectiva referente a la utilización de datos para el entrenamiento de modelos de IA, sobre todo si se considera su alta complejidad y la diversidad de ecosistemas en los que opera.

Asimismo, la implementación de la IA exige principios éticos sólidos con la finalidad de que su uso sea responsable y apegado a la normativa. Una manipulación desacertada de los algoritmos que alimentan un aplicativo de IA puede perpetuar sesgos de género, edad, discapacidad, nacionalidad, religión, orientación sexual u otros tópicos, de manera negativa.

Además de lo anterior, los usuarios deben ser informados de manera transparente respecto de que están frente a un contenido, dispositivo o aplicativo de IA, ya que la dificultad de distinguir entre creaciones humanas y algoritmos es un desafío diario in crescendo.

Lo cierto es que las preocupaciones éticas y legales en torno a la IA no hacen más que aumentar. Ciertamente, la normativa europea, así como los proyectos locales de regulación son avances importantes. No obstante, falta concientización y una discusión mucho más seria de esta problemática. Aún queda mucho que aprender y pulir en esta revolución que ha venido a iniciar la IA.

Con todo, existe acuerdo de que, al momento de decidir por la ética en la IA, las compañías deben promover la colaboración multidisciplinaria, la capacitación permanente, establecer claros mecanismos de supervisión, proteger la privacidad del usuario y la de los datos sensibles. Aunque, probablemente, lo más relevante es fomentar la transparencia en los procesos de IA para permitir y facilitar su control, manteniendo la confianza de quién la utiliza.

Te puede interesar
Lo más visto
young-indian-man-standing-by-his-truck-the-concep-2025-03-13-22-45-20-utc (2)

Gestión de flotas con telemática: optimizando el camino hacia la eficiencia

Santiago Jacquat
Tecnología23/06/2025

Las empresas han transformado por completo la manera en que administran sus vehículos en los últimos diez años.. Hoy, la tecnología telemática se ha convertido en el motor silencioso que impulsa la eficiencia, seguridad y rentabilidad de las flotas. Ya no se trata solo de saber dónde está un vehículo, sino de entender cómo se comporta, cómo se mantiene y cómo se puede optimizar su operación.