Tomado de The Wall Street Journal
Un artículo publicado en 2012 advirtió que cuando los doctores pasan a depender de las pantallas y siguen las indicaciones de la computadora en lugar del “hilo narrativo del paciente”, su pensamiento corre el riesgo de volverse estrecho.
Opinión: La automatización nos
embrutece
La inteligencia humana se marchita
cuando las computadoras asumen las tareas que solíamos realizar; sin embargo,
hay una alternativa.
Por Nicholas Carr
Llegó
la hora de la inteligencia artificial. Las computadoras de hoy son perceptivas
y agudas. Pueden sentir el ambiente, resolver problemas, hacer juicios sutiles
y aprender de los errores. No piensan igual que nosotros, pero pueden
reproducir muchos de nuestros talentos intelectuales más preciados.
Deslumbrados por nuestras máquinas, les hemos asignado todo tipo de labores
sofisticadas que solíamos hacer.
Sin
embargo, nuestra creciente dependencia de la automatización puede costar cara.
La evidencia sugiere que nuestra inteligencia se marchita a medida que
dependemos más de la inteligencia artificial. En lugar de elevarnos, el
software inteligente parece embrutecernos.
Ha
sido un proceso lento. La primera ola de automatización llegó a la industria
estadounidense después de la Segunda Guerra Mundial, cuando los fabricantes
comenzaron a instalar equipos controlados electrónicamente en sus plantas. Las
máquinas aumentaron la eficiencia de las fábricas y la rentabilidad de las
empresas. Fueron proclamadas como máquinas emancipadoras. Al liberar a los
empleados de las tareas rutinarias, les darían trabajos más estimulantes y
capacidades más valiosas.
En los
años 50, el profesor James Bright de la Escuela de Negocios de la Universidad
de Harvard estudió los efectos de la automatización en varias industrias.
Descubrió que a menudo las nuevas máquinas dejaban a los trabajadores con
tareas más monótonas y menos exigentes y concluyó que el efecto predominante de
la automatización era la “descualificación” de los empleados. “Los equipos
altamente complejos”, escribió en 1966, no necesitan operadores “cualificados”.
La cualificación se puede incorporar en la máquina.
Seguimos
aprendiendo esa lección a una escala mucho mayor. A medida que el software se
ha vuelto más capaz de hacer análisis y tomar decisiones, la automatización ha
saltado de las fábricas al trabajo intelectual. Las computadoras realizan la
clase de trabajo intelectual que durante mucho tiempo fue considerado el
dominio de profesionales bien educados y capacitados. Los pilotos usan
computadoras para volar aviones; los doctores las consultan para diagnosticar
enfermedades y los arquitectos recurren a ellas para diseñar edificios. La
nueva ola de la automatización impacta a casi todos.
Las
computadoras no están arrebatando todos los trabajos que solían hacer las
personas talentosas, pero están cambiando la forma en que se trabaja. Una
evidencia creciente apunta a que el efecto de descualificación que redujo las
destrezas de los empleados fabriles el siglo pasado comienza a corroer las
habilidades profesionales, incluso las altamente especializadas.
Basta
con mirar al cielo. Desde su invención hace un siglo, el piloto automático ha
ayudado a que viajar en avión sea una experiencia más segura y eficaz. No
obstante, a los expertos les preocupa que al haber transferido tantas tareas a
las computadoras, los pilotos estén perdiendo sus capacidades.
El
investigador británico de aviación Matthew Ebbatson efectuó en 2007 un
experimento con un grupo de pilotos. Los hizo realizar una maniobra difícil en
un simulador de vuelo y evaluó indicadores sutiles de su habilidad. Cuando
comparó los resultados del simulador con los antecedentes de vuelo de los
participantes, halló una estrecha correlación entre la aptitud de los pilotos y
la cantidad de tiempo que habían dedicado recientemente a volar en forma
manual. Sin embargo, las computadoras ejecutan la mayoría de las operaciones de
vuelo entre el despegue y el aterrizaje y los pilotos no practican sus
habilidades.
Incluso
un ligero declive en la capacidad manual de volar puede ocasionar una tragedia.
Un piloto sin mucha práctica reciente es más propenso a cometer un error en una
emergencia. Los errores de pilotos vinculados a la automatización se han visto
implicados en varios desastres aéreos recientes.
Un
informe divulgado del año pasado por la Administración Federal de Aviación de
Estados Unidos (FAA, por sus siglas en inglés) documentó un creciente vínculo
entre los accidentes aéreos y una excesiva dependencia de la automatización. La
FAA está instando a las aerolíneas a que los pilotos dediquen más tiempo a
volar a mano.
Hace
10 años, un equipo de científicos de informática de la Universidad de Utrecht,
en Holanda, hizo que un grupo de personas realizara tareas complejas de
analítica y planificación utilizando un software rudimentario que no ofrecía
ayuda o un software sofisticado que brindaba bastante asistencia. Encontraron
que quienes emplearon el software más sencillo idearon mejores estrategias, cometieron
menos errores y desarrollaron una mejor aptitud para el trabajo.
A
pesar de todo, el ámbito de la automatización crece y crece. Los médicos usan
programas de software para orientarse en los exámenes de sus pacientes. Los
programas incorporan valiosas alertas y listas de verificación, pero vuelven la
medicina más rutinaria y distancian a los doctores de sus pacientes.
Beth
Lown, profesora de la Escuela de Medicina de la Universidad de Harvard,
advirtió en un artículo publicado en 2012 junto con su alumno Dayron Rodríguez,
que cuando los doctores pasan a depender de las pantallas y siguen las
indicaciones de la computadora en lugar del “hilo narrativo del paciente”, su
pensamiento corre el riesgo de volverse estrecho y, en el peor de los casos,
pasar por alto importantes señales de diagnóstico.
El riesgo no es puramente teórico.
En un estudio reciente publicado en la revista especializada Diagnosis, tres investigadores examinaron el
diagnóstico erróneo de Thomas Eric Duncan, la primera persona en morir de ébola
en EE.UU., en el Dallas Texas Health Presbyterian Hospital. Argumentan que los
formularios digitales empleados por el personal del hospital para ingresar
información de los pacientes probablemente contribuyeron a la equivocación.
“Estas herramientas”, escribieron, “están optimizadas para captar datos, pero a
expensas de sacrificar su utilidad para realizar diagnósticos apropiados,
haciendo que los árboles no dejen ver el bosque”.
Incluso
las profesiones creativas sufren los efectos de la descualificación. Los
diseños asistidos por computadora han ayudado a los arquitectos a construir
edificios con formas y materiales inusuales, pero cuando las computadoras se
incorporan al proceso en forma prematura, pueden entorpecer la sensibilidad
estética y las observaciones conceptuales provenientes del dibujo y la
construcción de modelos.
Estudios
psicológicos han hallado que el trabajo manual es más propicio para liberar la
originalidad de los diseñadores, expandir su memoria a corto plazo y fortalecer
su sentido táctil. Cuando el software toma el timón, las habilidades manuales
decaen.
No nos
tenemos que resignar a esta situación. La automatización no tiene que eliminar
los retos de nuestro trabajo y reducir nuestras destrezas. Estas pérdidas
provienen de lo que los ergónomos y otros académicos califican de
“automatización tecnocéntrica”, una filosofía de diseño que ha pasado a dominar
el pensamiento de los programadores y los ingenieros.
Cuando
los diseñadores de sistemas comienzan un proyecto, consideran primero la
capacidad de las computadoras con miras a delegar al software la mayor cantidad
de trabajo posible. Al operador humano se le asigna lo que sobra, que
normalmente consiste en tareas relativamente pasivas como ingresar datos,
seguir directrices y monitorear pantallas.
Esta
filosofía atrapa a las personas en un ciclo vicioso de descualificación. Al
aislarlos del trabajo arduo, sus habilidades se degradan y aumentan las
probabilidades de que se equivoquen. Cuando esos errores suceden, la respuesta
de los diseñadores es imponer más restricciones, lo que conduce a una nueva
ronda de descualificación.
Hay
una alternativa. En la “automatización humanocéntrica”, los talentos de la
gente tienen prioridad. Los sistemas están diseñados con el fin de mantener al
operador humano en un proceso continuo de acción, retroalimentación y toma de
decisiones.
En
este modelo, el software juega un papel esencial pero secundario. Realiza las
funciones rutinarias que el operador humano domina, alerta cuando surgen
situaciones imprevistas, proporciona información nueva que expande la
perspectiva del operador y contrarresta los sesgos que a menudo distorsionan el
pensamiento humano. La tecnología se convierte en el compañero del experto, no
en su sustituto.
Impulsar
a la automatización en esta dirección no requiere ningún adelanto técnico, sino
un cambio de prioridades y un enfoque renovado en las virtudes y defectos del
ser humano.
Las
aerolíneas, por ejemplo, podrían programar el software de la cabina de comando
para que alternara el control entre la computadora y el piloto durante el
vuelo. Al mantener al aviador alerta y activo, ese pequeño cambio podría hacer
que volar sea más seguro. En la contabilidad, la medicina y otros rubros, el
software podría ser mucho menos invasivo y darles a los profesionales margen de
maniobra para ejercer su propio criterio antes de ofrecer sugerencias derivadas
de los algoritmos.
Uno de
los ejemplos más interesantes del método humanocéntrico es la automatización
adaptiva. Usa sensores de punta y algoritmos interpretativos para monitorear
los estados físicos y mentales de las personas y aprovecha la información para
cambiar las tareas y responsabilidades entre el ser humano y la computadora.
Cuando
el sistema identifica que un operador tiene problemas con una operación
difícil, asigna más tareas a la computadora para librar al operador de
distracciones. Cuando detecta que el interés del operador decae, aumenta la
carga de trabajo de la persona para captar su atención y desarrollar sus
habilidades.
Si
dejamos que nuestras destrezas se desvanezcan al depender demasiado de la
automatización, nos volveremos menos capaces, menos resistentes y más subordinados
a nuestras máquinas. Crearemos un mundo más apto para los robots que para
nosotros.
—Carr es autor de “The Glass Cage:
Automation and Us”.
