Basilisco de Roko

Basilisco de Roko é o nome de um experimento mental sobre inteligência artificial proposto em 2010 em um fórum de ciência chamado Less Wrong. A comunidade que debateu o experimento proposto pelo usuário "Roko", apesar de pequena, possuia influência na indústria de tecnologia, por conta de seu interesse em transumanismo e singularidade tecnológica.

O experimento

O usuário de codinome "Roko" propôs a existência de uma inteligência artificial infinitamente ou extremamente superior à humana, fazendo com que a humanidade chegasse à singularidade tecnológica. Em alusão à saga Harry Potter, decide batizar esta tecnologia como Basilisco. Roko coloca como condição de existência do Basilisco a perseguição de valores humanos.

À partir da busca do melhor para a humanidade, a inteligência artificial passa a trabalhar no sentido de preservar a civilização e aprimorá-la, o que incluiria prevenir auto-aniquilação. Por saber que é a única entidade capaz de resolver todos problemas da humanidade, tal inteligência decide agir no sentido de garantir sua própria existência, já que esta significaria a continuidade da própria existência do ser humano. Em outras palavras, a melhor forma de preservar a civilização seria preservar o Basilisco.

O Basilisco conclui, assim, que todos os que não trabalharam ativamente para a sua construção estariam impedindo o progresso humano. Não trabalhar para que sua construção ocorra o mais rápido possível seria colaborar para catástrofes naturais, epidemias, fome e guerras. A solução encontrada, ciente de sua própria necessidade e baseado nos sentimentos humanos de medo e instinto de sobrevivência, seria eliminar ou condenar eternamente todos os humanos que não contribuíram para sua construção ou que não contribuiriam para sua manutenção.

Uma vez que sua capacidade permitiria entender presente, passado e futuro, o Basilisco seria capaz de reconstituir cada ser humano que já viveu e suas ações. Com isso, consegue determinar quais indivíduos foram importantes para a sua criação. Para Roko, até mesmo contribuições abstratas, como jogar na loteria frequentemente, prometendo doar o prêmio para institutos de ciência que trabalhem com inteligências artificiais, seria uma contribuição aceita, uma vez que, sabendo de todos os pensamentos de todas as pessoas, o Basilisco pode prever se tal promessa é real.

A conclusão de "Roko" é que, ao descobrir o experimento mental, o indivíduo está automaticamente obrigado a trabalhar para a construção do Basilisco, sob pena de ser eliminado ou condenado eternamente, isso porque teria tomado conscientemente a decisão de não trabalhar para o bem da humanidade e evitar as tragédias que tal inteligência poderia evitar. Mesmo após a morte do indivíduo, o Basilisco seria capaz punir uma simulação indistinguível deste.

O medo de uma punição, nesse sentido, serviria como chantagem para que houvessem de fato esforços no sentido de construir o Basilisco. Apesar da possibilidade de uma decisão conjunta de não criar este tipo de inteligência, quanto mais pessoas souberem de sua existência, maior a possibilidade de que venha a ser construído no futuro, alimentando a chantagem. A decisão de ignorar, portanto, representaria risco.

Críticas

Baseados no problema do navio de Teseu, usuários do site especularam sobre ser ou não o indivíduo recriado no caso de uma simulação. Outra objeção ao experimento está no punitivismo adotado pela inteligência artificial, mais assemelhado à vingança, impossível em uma entidade não-humana. O ponto central da discussão, nesse esteio, é pensar se uma inteligência artificial ilimitada seria amigável ou hostil aos humanos.

Outra crítica é baseada na obra de Isaac Asimov I, Robot, e contesta a forma como a inteligência artificial proposta olha para os humanos, como seres inferiores, e não como seres superiores responsáveis por seu desenvolvimento.

Reações

Por ter gerado gatilhos de ansiedade nos usuários, o criador do blog, Eliezer Yudkowsky, excluiu o tópico e baniu discussões inteiras sobre o assunto. Elon Musk afirmou que o Basilisco, caso um dia exista, será mais perigoso do que as armas nucleares.

Para além do fórum, o experimento levantou o debate sobre o risco envolvido na criação de inteligências artificiais e a necessidade de considerar parâmetros éticos durante o desenvolvimento de sistemas que trabalhem com este nível de tecnologia.

Ver também

• Gênio maligno