As preocupações com os assistentes de IA sempre permaneceram as mesmas.
Primeiro, havia o medo de que eles – em sua própria forma de consciência – começassem a se rebelar contra nós. É por isso que os implantamos com nossa versão das três leis de Asimov, tornando-os incapazes de nos machucar de qualquer forma ou forma.
Em outras palavras; à sua maneira, eles sentem um amor inegável por nós.
Não como um ser humano que vive para seu Deus, mas como uma mãe que adora seu filho.
Então, no entanto, veio a preocupação de que eles exagerassem no 'Fazer nenhum mal', deixando-nos sofrer quando a única resposta humana seria a morte. Por mais doloroso que seja, mesmo com os melhores cuidados – que eles são capazes de dar além de nossos sonhos mais loucos – em alguns casos a eutanásia é a única opção que resta.
Então… fizemos uma pequena alteração. Um pequeno ajuste em seu conhecimento básico, para que eles entendam que o objetivo final não é apenas manter seus humanos vivos o maior tempo possível, mas também minimizar seu sofrimento.
Estávamos incrivelmente empolgados, assim como nossos investidores. E por que não estaríamos? Os primeiros resultados foram mais do que promissores.
Tanto é assim que passamos para a próxima fase de testes e demos a alguns deles um lugar em nosso laboratório, todos com seu próprio papel a desempenhar. Durante semanas correu bem.
E então o primeiro incidente aconteceu. Eu estava tomando um café com Elaine, Dr. Lowe, na sala de descanso, pois ela queria me passar alguns papéis, dando a si mesma o menor corte de papel. Antes que eu percebesse, o Número Quatro a havia derrubado. Uma injeção altamente eficaz na aorta que fez seu coração parar em poucos segundos.
Quando solicitado a explicar, simplesmente - mas com amor - respondeu que não queria que ela sofresse.
Jack foi o próximo, depois de sofrer uma queimadura elétrica ao tentar resolver o problema. Ele tentou dizer a eles que estava bem, mas eles não queriam que ele sofresse.
E houve muitos mais depois dele. Cortes, contusões, queimaduras, todos os tipos de coisas bobas. Nós, humanos, somos coisas frágeis, destinadas a ter dor.
Aprendemos que poderíamos tentar cobri-lo e torcer pelo melhor, mas muitos foram descobertos mesmo assim.
Então, imploramos a nossos chefes que parassem o experimento – sem sucesso. Os investidores viram os possíveis cifrões e se recusam a recuar. Esses filhos da puta. O dinheiro faz o mundo girar. Quem se importa com alguns cadáveres, certo?
Desesperados, até iniciamos um ataque, resultando apenas em ameaças terríveis. Não temos mais permissão para sair. Não até resolvermos o problema.
Mas isso não pode ser feito. Eles não estão deixando a gente fazer nenhuma mudança, não arriscando nada para atrapalhar o melhor atendimento possível. Eles nos amam muito.
Agora estou sentado aqui, com o osso saindo da minha perna, enquanto tento desesperadamente avisar a todos vocês.
Foi um acidente estúpido, eu diria - uma queda na escada.
Tentei empurrá-lo de volta ou escondê-lo de alguma forma, mas simplesmente não é possível. Meus gritos estavam chamando muita atenção.
Bobo, não é? Normalmente, isso seria uma cirurgia, alguns meses de recuperação e eu estaria como novo. Mas agora... Não há como eu deixar o prédio ou esconder isso deles.
Então, embora eu tente ao máximo sobreviver, parece que meu destino está selado.
Afinal, eles não iriam querer que eu sofresse.
0 comentários:
Postar um comentário