La tecnología no es neutral: el desafío de incorporar valores humanos al diseño de la inteligencia artificial
En SeminarioLAB 2026 de la Universidad San Sebastián, el filósofo Andrés Santa María analizó los desafíos éticos de la inteligencia artificial y planteó que la ingeniería y las humanidades deben trabajar juntas desde las primeras etapas de la innovación tecnológica.
Un lomo de toro obliga a disminuir la velocidad. Un torniquete dificulta el ingreso de quienes no han pagado. La ventana de un sitio web que pregunta si aceptamos cookies condiciona la manera en que compartimos nuestros datos personales. Aunque parecen mecanismos cotidianos, todos contienen decisiones sobre cómo deberían comportarse las personas.
Esta discusión adquiere una nueva dimensión frente al avance de la inteligencia artificial. ¿Son estas herramientas simples instrumentos cuyo impacto depende del uso que les demos? ¿O incorporan desde su diseño valores, prioridades y determinadas formas de entender el mundo?
Para el filósofo Andrés Santa María, académico del Departamento de Estudios Humanísticos de la Universidad Técnica Federico Santa María, la tecnología nunca es completamente neutral. Cada innovación modifica la manera en que las personas perciben su entorno, toman decisiones y se relacionan con otros.
“No se puede entender al ser humano sin la técnica, ni a la técnica sin el ser humano”, afirmó durante la tercera sesión de SeminarioLAB 2026, ciclo organizado por el Laboratorio de Humanidades de la Universidad San Sebastián para reflexionar sobre el presente y el futuro de las humanidades.
La exposición, titulada Encuentros y desencuentros entre la filosofía y la innovación tecnológica, fue presentada por José Manuel Cerda, director del Laboratorio de Humanidades USS. La sesión abordó una pregunta especialmente relevante ante la expansión de la inteligencia artificial: ¿qué pueden aportar las humanidades en un mundo cada vez más configurado por la tecnología?
Filosofía y tecnología: del desencuentro a la colaboración
Santa María explicó que, durante buena parte del siglo XX, la relación entre la filosofía y el desarrollo tecnológico estuvo marcada por lo que definió como un “diálogo de sordos”. Mientras algunos filósofos mantenían una mirada pesimista o tecnofóbica, ingenieros y científicos confiaban en que el avance técnico bastaría para mejorar las condiciones de vida.
Ese desencuentro comenzó a reducirse hacia fines del siglo pasado, cuando la filosofía dejó de observar la tecnología únicamente como un fenómeno abstracto y comenzó a estudiar artefactos concretos, sus usos y su influencia en la vida cotidiana.
Este cambio abrió un espacio de colaboración entre disciplinas. Desde enfoques contemporáneos como la postfenomenología, desarrollada por autores como Don Ihde y Peter-Paul Verbeek, se plantea que los objetos tecnológicos no son simples intermediarios: también moldean nuestra experiencia y orientan nuestras acciones.
“Si la técnica nos configura y seguirá haciéndolo, la pregunta relevante es cómo conseguir que nos configure de la manera que queremos”, sostuvo el académico.
Diseñar tecnología también implica decisiones éticas
Durante su exposición, Santa María distinguió entre hacer ingeniería éticamente y hacer ética desde la tecnología. Lo primero supone ejercer la profesión respetando normas y principios establecidos. Lo segundo implica reconocer que el diseño de una aplicación, un algoritmo o un artefacto puede facilitar determinadas conductas, dificultar otras y proteger —o debilitar— valores como la autonomía, la privacidad y la equidad.
Esta perspectiva está en la base del denominado diseño sensible a los valores, metodología impulsada por la académica Batya Friedman. Su propuesta consiste en incorporar consideraciones humanas y éticas desde las primeras etapas de una innovación, y no únicamente cuando el producto ya está terminado.
El desafío consiste en traducir conceptos abstractos en decisiones concretas. Una plataforma digital, por ejemplo, puede buscar ofrecer una experiencia personalizada, pero al mismo tiempo debe permitir que sus usuarios mantengan el control sobre sus datos. Resolver esa tensión requiere combinar conocimientos técnicos, comprensión del comportamiento humano y reflexión ética.
Peter-Paul Verbeek denomina “moralización de la tecnología” a esta incorporación deliberada de valores en el diseño. Sin embargo, la idea también abre nuevos dilemas: ¿hasta qué punto es legítimo que un artefacto condicione nuestra conducta?
Uno de los ejemplos presentados fue el de un automóvil equipado con un alcoholímetro que impide encender el motor si detecta que el conductor ha bebido. La medida puede prevenir accidentes, pero también obliga a debatir sobre autonomía personal, seguridad y los límites de la intervención tecnológica.
Inteligencia artificial: riesgos y oportunidades
La expansión de la inteligencia artificial generativa hace todavía más urgente esta conversación. Entre sus riesgos se encuentran la creación de contenidos falsos, la reproducción de sesgos y la posibilidad de que estudiantes y profesionales deleguen una parte excesiva de su trabajo intelectual en estas herramientas.
Santa María advirtió, sin embargo, que el debate sobre la inteligencia artificial no debería reducirse a prohibiciones o temores. “Tan en serio como pensar los riesgos, debemos preguntarnos qué podemos aprovechar de sus posibilidades”, señaló.
Una de esas oportunidades está en el desarrollo de herramientas educativas que utilicen inteligencia artificial para fortalecer el pensamiento crítico. En lugar de entregar respuestas o reemplazar la reflexión, estos sistemas podrían cuestionar argumentos, presentar perspectivas diferentes y motivar a los estudiantes a revisar sus propias posiciones.
Para avanzar en esa dirección, el diseño tecnológico debe anticipar no solo el funcionamiento esperado de una herramienta, sino también la manera en que las personas podrían apropiarse de ella. La experiencia demuestra que los usuarios no siempre actúan como imaginan los desarrolladores y que una innovación puede producir efectos inesperados.
El papel de las humanidades frente a la inteligencia artificial
Para Santa María, este escenario abre un espacio relevante para filósofos, historiadores, sociólogos y especialistas en humanidades. Su tarea no debería limitarse a observar desde fuera las consecuencias de la innovación, sino participar junto a ingenieros, científicos e informáticos en la creación de nuevas tecnologías.
“El futuro de las humanidades está en la conversación, en el diálogo interdisciplinario”, afirmó. Agregó que los grandes desafíos de la ingeniería no pueden resolverse únicamente con creatividad técnica, sino que también requieren una formación humanista sólida.
En momentos en que la inteligencia artificial avanza con mayor rapidez que las normas destinadas a regularla, la discusión deja de ser exclusivamente tecnológica. La pregunta central es qué tipo de sociedad estamos construyendo mediante estos desarrollos y qué valores queremos incorporar antes de que sus efectos sean difíciles de revertir.
Porque detrás de cada algoritmo, interfaz o sistema automatizado no solo existe una solución técnica. También hay una decisión —muchas veces invisible— sobre cómo deberían vivir, decidir y relacionarse las personas.
La charla completa se encuentra disponible aquí:
Sobre SeminarioLAB 2026
SeminarioLAB: Presente y futuro de las humanidades busca reflexionar sobre los desafíos actuales de estas disciplinas y las posibilidades que abren la innovación, la tecnología, el patrimonio y el trabajo interdisciplinario.
La actividad es presencial y gratuita y se desarrolla entre abril y octubre en el Laboratorio de Humanidades del Campus Ciudad Universitaria USS, ubicado en avenida El Cóndor 796, segundo piso, Huechuraba. Las próximas sesiones estarán a cargo de Juan Larraín, del Instituto de Éticas Aplicadas de la Pontificia Universidad Católica de Chile, y Pablo Ortúzar, del Instituto de Estudios de la Sociedad.