Contenido
- Despedido por la máquina
- Automatización y disrupción laboral
- Sin errores, sin estrés: su guía paso a paso para crear software que cambie su vida sin destruir su vida
- Aplicaciones de electrónica de consumo
- Recuperando el Control
- Cómo podría funcionar
Fuente: Artinspiring / Dreamstime.com
Para llevar:
Para que la automatización trabaje con y para la humanidad en lugar de en contra de ella, necesitamos salvaguardas y humanos informados que estén capacitados para detener o corregir un error del sistema.
"Errar es humano; realmente ensuciar las cosas requiere una computadora ”. William E. Vaughan hizo esta observación en 1969. Darle el control a un sistema automatizado conlleva la posibilidad de que el sistema se salga mal y cause daños graves antes de que se verifique.
La automatización no es nueva, pero se está extendiendo mucho más gracias a la integración de los sistemas digitales y físicos. La ventaja de la automatización a escala es la gran eficiencia. Pero la desventaja de confiar en un sistema de configurarlo y olvidarlo es que alguien puede fallar al configurarlo correctamente.
Con un sistema que simplemente sigue sin intervención y sin forma de detener la maquinaria, puede tener efectos destructivos. En consecuencia, la tecnología puede crear el tipo de situación descrita en "El aprendiz de brujo", cuando lo que parece hacer la vida más fácil realmente se descontrola.
Despedido por la máquina
La automatización sin intervención es lo que resultó en un trabajador tecnológico en el Reino Unido que se encontró sin trabajo el año pasado sin causa. Ibrahim Diallo notó que sus tarjetas de autorización de seguridad no estaban trabajando en el trabajo y descubrió que era porque estaba sin trabajo. "The Machine Fired Me" es el título que le dio a su blog extendido sobre el evento.
En última instancia, la causa de la terminación de Diallo no fue algún tipo de evaluación de algoritmo que determinara quién debería ser eliminado. El problema no estaba dentro del sistema, sino que era un error humano. En este caso, fue toda la respuesta automatizada a la falta de un humano de poner en la información de renovación de contrato de Diallo.
No es que la máquina haya decidido que debería ser despedido por algo en particular. Simplemente llevó a cabo los pasos programados para alguien cuyo estado apareció como no empleado. Como aclara en los comentarios, esto no es realmente AI sino “script automatizado”. (Para saber cómo la IA puede ayudar (en lugar de perjudicar) en las empresas, consulte lo que AI puede hacer para la empresa).
Automatización y disrupción laboral
Este tipo de efecto no es exactamente lo que la gente imagina al describir los maravillosos beneficios que podemos anticipar en un futuro automatizado. La perspectiva optimista habitual para un cambio en los trabajos a medida que las tareas son asumidas por la automatización, los trabajos serán redefinidos, no terminados por sistemas automatizados. Pero la realidad es que algunos trabajos serán eliminados, y las personas que los ocuparon no necesariamente podrán hacer una transición sin problemas a las nuevas carreras en una industria en gran medida automatizada.
La interrupción del trabajo es uno de los riesgos menores que Elon Musk imaginó para el aumento de la IA, aunque su propia visión del impacto en los trabajos es mucho más pesimista que la de Fitzgerald. En opinión de Musk, la IA necesita una regulación estricta porque plantea "un riesgo fundamental y existencial para la civilización humana".
Sin errores, sin estrés: su guía paso a paso para crear software que cambie su vida sin destruir su vida
No puede mejorar sus habilidades de programación cuando a nadie le importa la calidad del software.
Aplicaciones de electrónica de consumo
A pesar de las credenciales tecnológicas propias de Musk, algunos expertos en el campo como Rodney Brooks, quien se desempeñó como director fundador del Laboratorio de Ciencias de la Computación e Inteligencia Artificial del MIT, y cofundador de iRobot y Rethink Robotics, dicen que Musk está equivocado sobre esa amenaza de IA y cómo la robótica En realidad operar.
En una entrevista con TechCrunch, Brooks indicó que es imprudente pedir regulaciones sin que la tecnología madure hasta el punto en que podamos identificar exactamente lo que debe regularse. Él desafió a Musk: "Dime, ¿qué comportamiento quieres cambiar, Elon?"
Brooks admitió que los robots provocarán el desplazamiento del trabajo. Pero también piensa que es posible cambiar el paradigma en la industria para seguir el de la electrónica de consumo.
La forma en que lo expresó en la entrevista de TechCrunch fue: “Tenemos una tradición en la fabricación de equipos que tiene interfaces de usuario horribles y es difícil y hay que tomar cursos, mientras que en electrónica de consumo, hemos hecho que las máquinas que utilizamos enseñen a la gente cómo usarlos ".
Eso es lo que dijo que debería ser el objetivo de cambiar la forma en que nos relacionamos con “equipos industriales y otros tipos de equipos, para hacer que las máquinas enseñen a las personas cómo usarlos”.
Recuperando el Control
Lo que sugiere Brooks puede señalarnos en la dirección de una solución al problema del error humano que desencadena el proceso automatizado que parece estar fuera de control. Para referirnos nuevamente a la desventura de Mickey en "El aprendiz de brujo", el problema proviene de la persona que activa el sistema pero no tiene una forma real de comunicarse con él para detenerlo o cambiar de dirección.
Pero si la interfaz se realiza siguiendo las líneas de la electrónica de consumo en lugar de los modelos industriales tradicionales, literalmente podría devolver el control a las manos humanas. Para ser realmente efectiva, la interfaz no solo debe ser accesible, sino que debe estar diseñada para mantener a las personas informadas sobre lo que está sucediendo, proporcionando datos sobre las actualizaciones que ha recibido y las acciones que ha tomado.
Cómo podría funcionar
En el caso de la terminación accidental de Diallo, eso significaría que el sistema automatizado no solo lo excluiría del sistema y luego le informaría a su reclutador que fue despedido. Primero reconocería que la renovación del contrato no se realizó en la fecha prevista. Antes de comenzar las acciones de terminación, ofrecería al gerente y al reclutador la actualización sobre la falta de renovación y las consecuencias que seguirían dentro del día si no se toman medidas.
Ese tipo de alerta permitiría a las personas tomar decisiones informadas sobre si permitir que la automatización continúe o intervenir para rectificar el error humano que fue la causa original del problema. Pero las personas también tienen que hacer su parte, responder a la alerta y tomar las medidas adecuadas. En otras palabras, la respuesta a la pregunta que planteó Brooks sobre el comportamiento se aplica a los humanos; necesitan ser menos pasivos frente a la automatización. (Para más información sobre cómo los humanos y las máquinas pueden trabajar cooperativamente, vea Canalización del elemento humano: política, procedimiento y proceso).
Como Diallo escribió en la sección de comentarios de su blog, la razón por la que esto pudo llegar al punto en que lo hizo fue porque la gente se negó a ir en contra de la máquina:
Otra cosa que se pasa por alto es que, aunque todos sabían que fue un error humano lo que lo provocó, y que fue puramente un error, decidieron seguir el s. Es como poner un letrero de "fumar permitido" en el hospital y las personas respetan el letrero en lugar de usar el sentido común.
En consecuencia, las políticas que debemos adoptar para que la automatización funcione con y para la humanidad en lugar de en contra de ella son dobles: en el lado de la máquina, necesitamos interfaces que sean accesibles e informativas, y en el lado humano, necesitamos que las personas sean facultado para identificar cuándo algo no está bien y para intervenir para rectificarlo.