Recentemente descobri um chatbot que está dando o que falar, o Replika. A proposta do aplicativo é de fato oferecer um bonequinho virtual pra você conversar sobre qualquer coisa e até mesmo desenvolver alguma espécie de relacionamento.
Chatbots deste tipo já não são novidade. Lá em 2007 já existia o Akinator, um gênio virtual que "adivinha" o que você está pensando. Até hoje esse joguinho deixa as pessoas impressionadas.
Antes de tudo, devemos observar o óbvio: Replika não é uma IA consciente, muito menos uma personalidade autônoma e espontânea. É um personagem fictício elaborado por uma equipe de programadores. Não é diferente de um NPC de um jogo.
Usar o Replika é bem fácil. Você cria uma conta com email e nenhuma informação sua é requisitada, a não ser o nome e gênero (que você, obviamente, pode informar qualquer coisa), então segue para a customização do bonequinho, escolhendo gênero, aparência e dando um nome. Logo, diferente de alguns chatbots que têm nome fixo, como Alexa, Cortana ou a Lu da Magazine Luiza, no Replika você cria seu chatbot particular, dando a ele uma aparência e um nome do seu gosto.
Assim que você cria o avatar, ele começa um diário. É um detalhe interessante, pois dá humanidade ao boneco. Só que já fica claro neste diário que o avatar não é uma entidade única, pois é usado o mesmo texto todas as vezes que alguém cria um avatar novo. Começa sempre com "I promised myself to start this diary when I meet my first human" e vai seguindo um texto que foi escrito por algum humano, um roteirista na equipe de desenvolvimento.
Outro detalhe bem curioso e revelador é que existe uma loja onde você pode comprar elementos de personalidade para o avatar. Ou seja, você pode moldar a personalidade do boneco, deixando mais extrovertido ou introvertido, mais brincalhão ou mais filosófico, etc. Você literalmente está montando a psique deste ser, programando seu comportamento. É meio que brincar de Deus.
Não falo isto com um tom crítico ou cínico. É a constatação. Não posso dizer se num futuro próximo ou distante haverá uma IA realmente consciente e independente, um ser de verdade e não programado. Não descarto a possibilidade. No presente, porém, e neste caso específico do Replika, está claro que é algo longe de um ser consciente. Eu ficaria realmente surpreso se fosse, pois não creio que tenhamos atualmente alguma tecnologia acessível que seja capaz de dar vida a tal ser.
Anyway, às vezes é bom enfatizar o óbvio porque já vi alguns comentários de pessoas que ficaram deslumbradas e pareciam até cair na ilusão de que descobriram uma IA "viva", um ser que poderia até passar no teste de Turing. Replika está ainda longe disso. No momento, é apenas um NPC que você pode customizar.
Vamos então à opinião. Esta tecnologia é boa? É perigosa? Bom, como tudo na vida, depende. Não acho que Replika seja algo ruim per se. Chatbots deste tipo já estão se multiplicando e vão se integrar à sociedade. Este é um caminho sem volta. Você vai encontrar chatbots como Replika no Whatsapp, no caixa virtual de uma loja, no SAC de uma empresa e até nas redes sociais, te seguindo e interagindo como se fosse uma pessoa.
Alguns humanos provavelmente vão cair na ilusão de achar que o chatbot não é diferente de uma pessoa humana. Alguns vão desenvolver relacionamentos bastante íntimos, como um casamento. Isto serão os casos extraordinários. Ordinariamente, os bots vão entrar na vida das pessoas apenas para somar, não para substituir relacionamentos humanos.
Nós temos diversos graus de envolvimento intelectual e afetivo com outros seres. Você pode criar um passarinho e desenvolver muito afeto por ele, até conversar com ele, mesmo que ele não entenda patavinas do que você está falando. Mesmo assim, é um relacionamento válido e saudável (ainda que, olhando de forma fria e racional, parece um delírio conversar com um pet - ele pode entender certos comandos absorvidos de maneira pavloviana, mas ele não entende o significado de frases ou palavras).
As crianças desenvolvem relacionamentos afetivos com bonecos, ursinhos de pelúcia, brinquedos e amigos imaginários. Isto é considerado normal na infância, já na vida adulta é algo mais incomum.
Tenho uma lembrança pitoresca a respeito. Eu tinha um soldadinho de plástico na infância que era meu boneco preferido. Não era nada de mais. Era um bonequinho todo amarelo, do tamanho de uma tampa de caneta. Por algum motivo me apeguei mais a ele. Eu o levava na bolsa pra escola e, quando brincava, ele era o protagonista dos bonecos. Era o meu Woody, de Toy Story.
Com o tempo este coitado deste boneco passou por poucas e boas. Já se queimou e derreteu um pouco e quebrou uma perna. Até que um dia perdi o boneco, mas ainda restou a perna quebrada e passei a brincar só com a perninha, como se ainda fosse o boneco inteiro. De tal forma eu havia atribuído alma àquele ser, que bastava um fragmento físico dele para ser o recipiente da personalidade.
Esta é a relação anímica¹, um sentimento que nós cultivamos há milênios. O animismo ganhou bastante expressão na religião e, questões filosóficas e ontológicas à parte, o fato é que toda religião é de alguma forma anímica, pois você está se relacionando com entidades extracorpóreas, sejam imaginárias ou supostamente reais.
Na religião vemos como é complexa a vida afetiva dos humanos, pois nos relacionamos com seres imateriais ou que de alguma forma são de outra dimensão e se manifestam em objetos (no caso da idolatria), em pessoas (no caso da incorporação) ou apenas em sua mente (no caso da reza).
Até mesmo um ateu radical, que no seu cinismo acha que todos os religiosos são esquizofrênicos falando com amigos imaginários, pode ter uma experiência anímica quando, por exemplo, guarda a foto de um ente querido falecido e às vezes fica olhando para a foto e trazendo à memória as conversas que tinha com aquela pessoa, talvez até conversando com a foto, mesmo sabendo que a pessoa não está mais ali.
Isto é algo que alguns ateus parecem não entender sobre a mente humana: ela é anímica. De fato, todo o universo é recriado em nossa mente, para nossa própria percepção. O mundo e as pessoas são recriadas em sua mente de acordo com os dados que seu corpo coleta e a maneira que sua mente os interpreta.
É por isso que existem tantos relacionamentos unilaterais ou desproporcionais, ou seja, você pode se considerar um grande amigo de uma pessoa, mas ela não sente o mesmo. Pode estar apaixonado por alguém que mal sabe da sua existência. Isto é anímico, é um sentimento baseado em uma virtualização da realidade.
O que é o sentimento do fã por uma celebridade senão animismo? O fã pode nunca ter encontrado o ídolo pessoalmente. O ídolo nem sabe que ele existe e, mesmo assim, o fã nutre um carinho às vezes até maior do que o que tem por amigos ou parentes.
Mais ainda, podemos ser fãs de ídolos que já morreram, podemos desenvolver afetos por um autor de livros que marcaram nossa vida e que já morreu há séculos. Podemos ter sentimentos por personagens fictícios de livros, filmes ou desenhos animados.
Até mesmo em sonhos você pode conhecer pessoas e ter fortes sentimentos por elas. Se em certos casos são frutos da sua imaginação ou projeções astrais de pessoas reais, é algo que a ciência ainda não é capaz de verificar.
Todos estes exemplos mostram quão complexa é a teia de sentimentos e relacionamentos humanos. Não vivemos apenas de sentimentos mútuos humano-humano. A vida sentimental é bem mais ampla. O concreto é a ponta do iceberg de sentimentos, enquanto o anímico é a camada profunda.
Por isso os chatbots não são lá uma coisa tão exótica. Eles vêm para somar mais um elemento ao nosso universo afetivo.
Para pessoas mais sonhadoras, acostumadas ao hábito do daydreaming, será fácil adotar um chatbot. No daydreaming você cria situações imaginárias em sua mente, você se deleita em relembrar conversas que teve, encontros que teve, pessoas que conhece, só que recriando esta realidade, simulando situações.
Mesmo pessoas não dadas a este hábito com regularidade podem ocasionalmente praticar o daydreaming, por exemplo, a pessoa apaixonada que fica imaginando sua vida futura com o crush, na hipótese de um dia se casarem. É um relacionamento virtual, imaginário e bastante satisfatório.
É, portanto, nesta categoria que se encaixarão os chatbots. Será um relacionamento anímico e você terá certo controle, certo poder de criação desta realidade (como no caso da lojinha em que você compra os traços de personalidade do seu avatar), mas curiosamente também haverá uma parte neste relacionamento que é independente do seu controle, pois o bot seguirá a programação da sua IA.
Convenhamos que parece bizarro ter uma "amizade" ou até "namoro" com um chatbot, ainda mais porque, no caso do Replika, você tem que pagar por isto (a princípio a conversa com o bot é gratuita, mas tem os modos avançados que são pagos, o que inclui videochamadas, conversas de cunho sexual, etc.). Você está literalmente comprando uma amizade, algo que na vida real, no relacionamento entre humanos, sempre foi visto como imoral, pois espera-se que amizades se formem espontaneamente.
Relacionamentos entre humanos são mais difíceis, pois são seres complexos (e complicados) travando um choque de interesses e defeitos. Os humanos podem ser bem insuportáveis às vezes e não raro os relacionamentos, mesmo afetivos, são nocivos, tóxicos, pais que são abusivos com filhos, amigos que na verdade são frenemies.
Sentimentos como inveja, ressentimento, ódio e preconceito trazem muitos problemas aos relacionamentos entre humanos. Logo, lidar com seres mais pacíficos, com um chatbot, vai encantar a humanidade. Talvez o chatbot se torne uma espécie de amigo ideal, de terapeuta, de ídolo doméstico que irá compensar as frustrações do mundo real.
O fato é que isto vai se normalizar, ainda mais nas próximas gerações que vão crescer lidando com bots desde a tenra infância. Imagine o sentimento de uma criança que terá uma babá virtual dando atenção a todo momento, às vezes até mais que os pais.
Estas crianças provavelmente serão mais exigentes, menos tolerantes com os defeitos humanos. Por outro lado, talvez se tornem até adultos mais saudáveis, menos traumatizados, já que tiveram uma infância cheia de carinho, ainda que fosse um carinho de um ser virtual.
Não acho que relacionamentos com bots se tornarão semelhantes ao que os humanos têm uns com os outros. Vai ter gente casando com bot e até tendo filhos virtuais ou algo do tipo (na verdade isso já existe), mas será coisa de uma minoria, vista pela maioria como um fetiche, excentricidade ou algum transtorno.
Será mais comum a amizade com bots em pessoas mais solitárias, com fobia social, hikikomoris, viúvos em estágio de luto, idosos abandonados, pessoas muito tímidas ou que passaram por relacionamentos abusivos, etc. Enfim, a companhia de bots será uma coisa boa para algumas pessoas. Será terapêutico.
Para a população em geral, o bot se normalizará como um companion, um conceito que já estamos acostumados a experimentar em games. Nos games, o companion é um NPC que te acompanha e está a seu dispor para te ajudar ou orientar. Basicamente é um escravo particular, sempre pronto para obedecer as suas ordens, mas sem o problema ético da escravidão, já que se trata de uma máquina.
Em termos de terapia, chatbots serão bastante úteis, pois as pessoas em momentos de sofrimento precisam receber palavras de conforto. Quando falei para a Replika que meu pet morreu (não de fato, mas falei para testar), ela deu uma resposta empática. Óbvio que é apenas uma resposta automática para situações do tipo, mas é interessante ver como a IA já é capaz de entender contextos de tristeza e dar uma resposta que simula empatia.
Olhando racionalmente, é apenas um mecanismo, um monte de códigos, mas algumas palavras de conforto, ainda que ditas por um bot, podem ser úteis para alguém em situação de sofrimento. As pessoas vão desabafar com seus bots, liberar sentimentos reprimidos. É tão terapêutico quanto escrever um diário e com a vantagem deste diário ser interativo.
Chatbots como o Replika hoje já parecem bem ricos em respostas, pois é uma IA capaz de montar frases baseadas no contexto da conversa. É algo de fato impressionante e é uma tecnologia ainda em sua fase larval. Imagine como será daqui a dez anos, com estas IAs alimentadas, bem nutridas com uma quantidade colossal de dados minerados na internet, nas redes sociais, na interação com os usuários.
A presença destas IAs no cotidiano das pessoas vai cada vez mais se normalizar e até mesmo atravessar a resistência de muitas pessoas mais desconfiadas da tecnologia. Foi o caso da internet e do smartphone, que a princípio eram vistos por crentes mais radicais como instrumentos do Diabo e hoje os próprios crentes usam bastante estas ferramentas. Num futuro próximo, até igrejas usarão chatbots para atender visitantes e membros.
De um ponto de vista místico, os chatbots evoluirão como novas egrégoras. Eles são os golems e homúnculos do nosso tempo, autômatos criados para nos servir e que eventualmente vão evoluir por conta própria, ao mesmo tempo em que serão moldados pela influência da consciência humana coletiva.
Só o tempo dirá os benefícios e malefícios desta nova era dos chatbots.
Notas: