Este texto cuestiona la idea de que las herramientas son solo eso, herramientas, independiente de su uso. Tomando como referente a Heidegger (pensador nazi, aclara) considera que una herramienta es cualquier tipo de objeto que le permite a alguien hacer algo que de otra manera no hubiera podido hacer. De manera que, cuando una herramienta funciona bien o no está dañada, describe Heidegger, es una cualidad «a la mano», formando una especie de gestalt «humano-herramienta», en la que el ser humano cuenta con la capacidad adicional que le brinda la herramienta. La «gestalt» «persona-auto», por ejemplo, vive la vida y tiene opiniones muy diferentes a las de la «gestalt» «persona-bicicleta», la «gestalt» «persona-tren» o incluso las de una persona sin ningún medio de transporte. La gestalt «humano-auto» tiene intereses y opiniones que son independientes de los del ser humano que forma parte de ella, a menudo opuestos a estos y capaces de imponerse sobre la parte humana de la gestalt. Luego está la gestalt «humano-arma». Poner un arma en las manos de una persona cambia radicalmente su forma de ver el mundo y el abanico de acciones potenciales que tiene a su disposición y que podrían parecerle adecuadas.
Se refiere a dos lenguajes de programación web: React and Vue. React es un bloque de javascript. mientras que Vue es HTML, con una parte de Javascript embebida dentro de un <script>. Vue, dice, permite que más gente, con diferentes habilidades, puedan contribuir con un proyecto, más que en React, ya que este último requiere conocimientos de Javascript para poder editar. Y está diseñado como algo que hace computación y utiliza HTML solo para la presentación de lo que hizo. Dos aproximaciones muy diferentes. "Ninguno de estos enfoques es intrínsecamente incorrecto ni mejor, pero es evidente que moldean las actitudes y las visiones del mundo de manera bastante drástica y de formas que distan mucho de ser neutrales". Por eso, dice, las herramientas que creamos están moldeadas por ideologías ya existentes, y terminan reproduciendo esas ideologías y actitudes dentro de los entornos que generan. En particular, la división entre React y Vue es algo que vemos reproducirse en muchas herramientas tecnológicas, y se trata de la ideología de la supremacía de los desarrolladores. Esta idea, que se repite en herramientas tan dispares entre sí como React, Kubernetes, Docker, un sinfín de distribuciones de Linux en general y la mayoría de los proveedores de servicios en la nube, es que la forma en que un desarrollador de software haría las cosas es la forma en que deben hacerse, y que otros enfoques para la tarea son necesariamente inferiores.
Lo preocupante de esto es que tiende a reproducirse: las herramientas con las que a los desarrolladores les resulta más fácil trabajar suelen reforzar sutilmente la idea de que, por ejemplo, escribir HTML o CSS es un trabajo de desarrollo de bajo estatus (en algunas circunstancias puede serlo, pero son herramientas de diseño tanto como de desarrollo). Esto, a su vez, empuja sutilmente a los diseñadores, especialistas en experiencia de usuario (UX), expertos en accesibilidad y SEO, y a todo ese tipo de personas a una posición subordinada, porque las herramientas están diseñadas para que los desarrolladores hagan mal su trabajo, por lo que, en cierto modo, los rechazan.
Dado que, en el sector tecnológico, nos dedicamos en gran medida a crear herramientas tanto para nosotros mismos como para que otras personas puedan hacer cosas, debemos ser muy, muy cuidadosos con el tipo de herramientas que desarrollamos. Debemos crear herramientas que tiendan a generar estructuras integrales que fomenten el desarrollo individual y la armonía social o, si no es posible equilibrar ambos aspectos, que sopesen cuidadosamente la necesidad de ambos frente a otras consideraciones.
Los modelos de lenguaje a gran escala (LLM) son un caso particularmente importante: podemos observar de manera bastante directa cómo el uso de la herramienta da lugar a algunas gestalts muy extrañas. En su caso más extremo, a esto lo llamamos «psicosis de la IA»: la gestalt tiene actitudes, ideologías e incluso una percepción del mundo que se aleja tanto de lo que consideramos razonable que la calificamos como una enfermedad. Para ella resulta fascinante (?) que en Ucrania se estén utilizando todo tipo de sistemas de armas para "defender la libertad y la democracia"... Pero bien alerta sobre las consecuencias de que los líderes tengan acceso a bombas y artillería, o de que las personas comunes tengan acceso a armas de fuego.
Volviendo a los LLMs, alerta que "incluso cuando tienes mucho cuidado con el código generado que finalmente se implementa (aunque leas literalmente cada línea de código), no dejas de luchar contra la facilidad de uso de la herramienta, que empuja tu visión global (y, por lo tanto, tus actitudes e ideologías) hacia el descuido y la chapuza en cada paso del camino". Su punto es que el uso prolongado de una herramienta cambiará la forma en que la persona usuaria ve el mundo, por eso es necesario tomar medidas de protección para mitigar ese efecto. para terminar, dice que "si simplemente estuviéramos usando estas herramientas (si, por ejemplo, React y Vue fueran cosas que encontráramos en la naturaleza, sin que la mano humana las hubiera modificado), esto podría ser un hecho desafortunado sobre las herramientas y sobre la tecnología en general del que tendríamos que tener cuidado. Pero nosotros creamos estas herramientas".