Ophelia Pastrana, tecnóloga, economista e influencer trans, reflexionó sobre cómo la Inteligencia Artificial puede tanto reforzar sesgos como democratizar la expresión de voces diversas durante la Platzi Conf 2024, llevada a cabo el 12 de junio de 2024. Es crucial entender que, aunque la IA posee un gran potencial, también puede perpetuar sesgos existentes debido a las bases de datos dominadas por perspectivas hegemónicas. Por ejemplo, las IA de reconocimiento facial han mostrado menores tasas de efectividad, de solo el 60-70%, en personas de piel morena.
IA Diversidad y sus Desafíos en la Representación
La advertencia de Pastrana sobre los sesgos en la inteligencia artificial es una llamada de atención importante. Las bases de datos dominadas por perspectivas hegemónicas pueden reforzar estereotipos y esquemas de exclusión. Esto es notable en tecnologías como el reconocimiento facial, donde la efectividad de la IA disminuye significativamente en personas con color de piel morena, causando preocupaciones sobre la equidad y la justicia en el uso de esta tecnología.
Potencial de la IA en la Democratización de la Expresión
A pesar de sus sesgos, Pastrana subraya cómo la IA puede democratizar el acceso a la expresión artística y la creación de contenidos. Esto es especialmente relevante para individuos que carecen de habilidades técnicas, permitiéndoles realizar actividades como escribir, dibujar y producir videos. Así, la IA se convierte en una herramienta poderosa para empoderar a personas diversas a expresar sus talentos y pensamientos, rompiendo barreras tradicionales.
IA Diversidad: Evolución e Integración Constante
La tecnología actual, aunque imperfecta, seguirá evolucionando e integrándose cada vez más en dispositivos cotidianos. Pastrana enfatiza la importancia de enseñar a las personas a interactuar con la IA de manera crítica y cómo puede ser utilizada como una herramienta inclusiva. La educación y la curiosidad son esenciales para aprovechar al máximo las oportunidades que ofrece la IA, entendiendo tanto sus limitaciones como sus posibilidades.
Fomentando Valores Humanos en el Desarrollo de la IA
Para Pastrana, es esencial fomentar valores humanos en el desarrollo tecnológico. Esto implica mantener diálogos continuos con los desarrolladores de IA para lograr sistemas inclusivos y libres de sesgos. Estas conversaciones son fundamentales para asegurar que la tecnología sirva a todas las personas de manera equitativa y justa, respetando y valorando la diversidad.
Educación y Curiosidad: Claves para Aprovechar la IA
Pastrana resalta la importancia de la educación y la curiosidad para aprovechar la tecnología y sus cambios. Al educar a las personas sobre cómo trabajar con la IA de manera crítica, se abren posibilidades para utilizar estas herramientas de forma más eficaz y justa. La curiosidad, por su parte, impulsa la innovación y el descubrimiento de nuevas aplicaciones que pueden beneficiar a la sociedad en su conjunto.
