Aqueles que começaram a ser supervisionados por um algoritmo reconhecem que a princípio eles se sentem estranhos, mas que com o tempo se acostumam com isso.
Em um ambiente relativamente limitado, um sistema baseado em inteligência artificial é capaz de tomar decisões precisas . O resto das ocupações de um supervisor são triviais para o sistema:
- Atribuir tarefas aos membros da equipe com base em sua disponibilidade e perfil de competência.
- Verifique a conformidade com essas instruções .
- Avaliar a eficácia dessas ações para o cumprimento dos objetivos propostos. Essa avaliação fornece feedback ao sistema e permite que o algoritmo decida com uma taxa de sucesso maior no futuro.
É verdade que tal chefe não gera um alto nível de conexão em um nível pessoal , mas quantos supervisores humanos o fazem? Por outro lado, os benefícios de um sistema de gestão baseado em inteligência artificial incluem:
- Um processo de tomada de decisão baseado em dados , mesmo que a informação que deve ser tratada seja massiva.
- Distribuição de cargas de trabalho por critérios objetivos, sem preferências ou exclusões.
- Avaliação de desempenho igualmente objetiva.
Essa abordagem rompe drasticamente a maneira pela qual, nos dois últimos séculos, compreendemos o papel da tecnologia nos ambientes de trabalho. Desde a primeira revolução industrial, as máquinas adotaram um papel instrumental e subordinado: elas eram algo que utilizávamos para realizar nosso trabalho com mais eficiência, seguidores rigorosos de nossas instruções. Agora vislumbramos um cenário em que certas tarefas podem ser realizadas preferencialmente por humanos, mas sob a supervisão de sistemas de inteligência artificial.. Pense nas tarefas que têm a ver com o serviço, no qual queremos ser atendidos por um ser humano e não por um robô: garçons na hospitalidade, equipe de enfermagem em um hospital, etc. O que impede a alocação de turnos, a distribuição de tabelas ou leitos, instruções sobre a distribuição de alimentos ou medicamentos, a coleta de dados sobre a satisfação do cliente ou do paciente, etc., são tarefas executadas por um algoritmo?
O problema surge quando analisamos não a eficiência, mas as questões éticas associadas a essa mudança de papéis. Alguns especialistas destacaram os riscos dessa mudança. Lasse Rouhiainen, autor de “Inteligência Artificial: 101 coisas que você deve saber hoje sobre o nosso futuro”, analisando as iniciativas de alguns países asiáticos, diz: “Minha suspeita é que, talvez, seguir a mesma ideologia como China, isto é, desenvolvido pela primeira vez aplicações e, em seguida, rever questões éticas, quando deveria ser o contrário “.
Entre os paradoxos éticos desta situação, o IESE Business School Insight (Outono de 2018) aponta o seguinte:
- O debate da justiça . Dissemos anteriormente que, supostamente, um sistema automatizado tomará decisões sem preconceitos ou condições subjetivas. No entanto, as primeiras experiências mostram que as decisões tomadas por algoritmos reproduzem alguns dos vieses presentes nos tomadores de decisão humanos, uma vez que, em última análise, somos nós que os desenvolvemos. O líder não humano pode atribuir tarefas com maior valor agregado ou que proporcionem maior visibilidade na empresa, de preferência a homens (versus mulheres) ou pessoas de um determinado grupo étnico. Se eles usarem indicadores históricos de desempenho contaminados por nossas estruturas sociais atuais, nas quais os homens, em média, têm maior disponibilidade do que as mulheres, os padrões de decisão serão perpetuados.
- Prestação de contas . O que é característico de um chefe não é apenas sua capacidade de tomar decisões, mas também de assumir a responsabilidade por essas decisões. Se um sistema automatizado falha e nos dá instruções de quais consequências indesejadas são derivadas, quem responde: o fabricante, o implementador …?
- Transparência . Um chefe não deve explicar constantemente as razões pelas quais ele toma uma decisão, mas ele deve ser capaz de fazê-lo se, legitimamente, ele for solicitado a fazê-lo. A complexidade inerente aos algoritmos de inteligência artificial pode produzir que suas decisões não sejam compreendidas nem mesmo por seus desenvolvedores. Não é confortável trabalhar para um chefe com quem você não pode “negociar” qualquer uma das instruções que você nos der, e nem mesmo entender as razões pelas quais você transmite essas ordens.
Não é errado ter chefes não humanos, desde que a estrutura ética em que atuam seja cuidadosamente projetada e supervisionada por seres humanos .