Victor Frankenstein, no clássico distópico “Frankenstein”, de Mary Shelley, é um ambicioso cientista que dedicou sua existência ao estudo teórico e prático de gerar uma vida artificialmente a partir de tecidos cadavéricos. Resultado de anos de trabalho árduo, origina-se a assustadora criatura destituída de nome, mas popularmente conhecida pelo sobrenome de seu criador.
O famoso monstro robusto, de pele amarela-esverdeada e parafusos no pescoço, apesar de criado de forma atípica, é capaz de sentir emoções e formular pensamentos, semelhante aos humanos. Assim, ao passo que Victor, aterrorizado, exime-se da responsabilidade de inventor ao abandonar a besta à própria sorte, a criatura passa a sentir desamparo, solidão e sede por vingança. Inicia-se, então, uma narrativa tão rica e complexa que é reconhecida, até hoje, como um grande patrimônio literário à humanidade.
Além de pioneira e precursora do gênero de terror e ficção científica, a obra é recheada de questionamentos e críticas morais que, dada a sua universalidade, permanecem adequadas, mesmo após séculos de sua escrita. A mais relevante para este artigo e que, portanto, será destacada, é a sua posição a respeito do Iluminismo. A autora, através da narrativa, se mostra bastante cética em relação às inúmeras promessas de progresso científico quando aplicado, de maneira desenfreada, o uso da razão (defendido por René Descartes como método para investigação da verdade). Frankenstein, sobretudo, aborda os efeitos, não antecipados, de avanços tecnológicos: Victor não pensou nas consequências incontroláveis que poderiam ser desencadeadas com sua invenção e seu abandono de modo que a criatura ficou à solta pelo mundo, com o livre arbítrio de fazer o que quisesse, incluindo matar.
Os perigos da ciência arrogante e utópica, deste modo, são aplicáveis à contemporaneidade ao que nos deparamos com dilemas semelhantes ao tratado no enredo, como o futuro da Inteligência Artificial dado seu acelerado desenvolvimento.
Com o passar das décadas e o progresso tecnológico em alta, a ciência foi se
tornando cada vez mais específica e moderna. Limites, antes impensáveis para humanidade, foram sendo quebrados e superados. O homem pisou na lua; Oppenheimer criou a bomba atômica; o DNA humano foi inteiramente decodificado; e o telefone celular, móvel e prático, trouxe inovação para as vidas cotidianas. Tais eventos, apesar de suas magnitudes, correspondem a uma porcentagem baixíssima de todas as descobertas realizadas apenas nos últimos anos.
Neste cenário de conhecimento interminável, regras e restrições se tornaram fundamentais a fim de preservar a espécie (poupando-a de quaisquer ameaças) e direitos humanos. Não é, de maneira alguma, por exemplo, aceitável usar um humano como cobaia para experimentos científicos sem seu consentimento pleno e estabelecido legalmente. Principalmente porque, com tanta diversidade dentre os oito bilhões de indivíduos que habitam a Terra, há igual variedade de pensamentos e visões de mundo, influenciadas por questões sociais, religiosas, econômicas e geográficas.
É aí que a ética entra: por definição, esta é a reflexão sobre a moral, ou seja, é a análise e discussão sobre os valores e normas acerca do que é permitido e proibido dentro de uma sociedade específica. Assim, toma-se como exemplo a questão do aborto: a moral cristã, no caso, consideraria tal ato errado; enquanto isso, a ética não definiria se a prática é do bem ou mal, mas exploraria suas raízes e variantes de forma a buscar aquilo que proporcionaria um bem comum.
A responsabilidade, no entanto, não é restrita aos cientistas: quando estes desenvolvem alguma inovação, quem decide sua aplicação é, também, a sociedade, diariamente afetada por tais novidades. A tecnologia do CRISPR, por exemplo, que permite a modificação genômica de organismos, pode ser aplicada favoravelmente para possibilitar a mudança e correção de certas mutações no DNA causadoras de doenças graves e sem tratamento. Da mesma forma, a técnica poderia ser utilizada para escolha de traços e características de uma prole de acordo com a preferência dos reprodutores. Consequentemente, numa tentativa de gerar seres humanos ideais e perfeitos, um novo problema social de eugenia teria a chance de emergir.
Assim, talvez o limite da ciência seja eticamente determinado pelo risco e possibilidade de um avanço, em particular, ser priorizado em detrimento do bem-estar de outros indivíduos. À vista disso, a frase “A liberdade de cada um termina onde começa a liberdade do outro”, do famoso filósofo Herbert Spencer, é, também, aplicável à ciência, justamente porque esta, por afetar diretamente a humanidade, envolve debates relacionados à liberdade em suas discussões.
Somado a isso, é preciso considerar mais um aspecto em meio a esta discussão: sob a óptica contemporânea, é cada vez mais evidente a fluidez e rapidez com que ocorrem avanços científicos. Fenômenos como a globalização, por exemplo, exercem um papel essencial nesta tendência, uma vez que facilitam a comunicação de ideias e mão de obra entre diferentes empresas, centros de pesquisa e demais pólos de inovação. A facilidade de locomoção entre países, a circulação quase instantânea de informações e capitais e o advento das chamadas empresas multinacionais, todos estes frutos da globalização se mostram como provas de que vivemos num período unicamente favorável à inovação.
De fato, esta facilidade no ato da invenção deve-se muito à evolução da comunicação. Ao seguir a linha temporal deste processo, desde a invenção da imprensa pelo alemão Johann Gutenberg, na década de 1430, passando pela criação da “World Wide Web” pelo cientista britânico Tim-Berners Lee na década de 1990, até os dias de hoje, é possível chegar na constatação de que os métodos de comunicação evoluíram, tanto que constituem um dos pilares dos avanços científicos atuais. O combate à pandemia de COVID-19, por exemplo, foi altamente dependente da cooperação e comunicação entre diversos laboratórios e organizações no âmbito internacional, principalmente no desenvolvimento de imunizantes: a vacina Tozinameran (popularmente conhecida como BioNTech/Pfizer) foi desenvolvida com a cooperação entre as companhias BioNTech (alemã) e Pfizer (americana), enquanto que a empresa anglosueca AstraZeneca e a universidade inglesa Oxford se aliaram no desenvolvimento da vacina Oxford-Astrazeneca.
A discussão sobre o estabelecimento de limites éticos e morais ganhou atração justamente sob esse contexto. De fato, é difícil avaliar e deliberar sobre novos avanços, descobertas ou invenções no campo tecnológico científico sem considerar também se barreiras devem ser impostas sobre tal avanço
Demonstra-se, então, que o estabelecimento de barreiras éticas e morais se constitui ainda mais importante no contexto citado acima. Avanços tecnocientíficos são feitos de forma tão rápida e brusca, que o rompimento de limites e barreiras acaba se facilitando. Nessa tendência, quanto maior e mais grandioso o avanço em questão é, mais difícil se torna a sua regulamentação, monitoramento e uma possível limitação. Usando como exemplo o chatbot provido de inteligência artificial Chat GPT, é fácil perceber esta dificuldade: como monitorar uma ferramenta que já é empregada pelo mundo inteiro e consegue assimilar novas informações aos seus bancos de dados quase que instantaneamente e, portanto, está em constante evolução? A resposta ainda não é clara: mesmo após a implementação de um sistema de moderação também baseado em inteligência artificial pela empresa OpenAI, criadora do Chat GPT, há relatos de usuários que conseguiram passar por tal segurança e incentivar o chatbot a disseminar conteúdos de ódio, além de o induzir a assimilar informações falsas em sua bases de dados; paralelamente, a empresa afirma que a ferramenta de moderação ainda possui falhas.
Além da grandiosidade e rapidez sem precedentes das criações modernas, a proliferação cada vez maior delas pelo mundo também realça a necessidade da imposição de limites, principalmente quando representam um perigo à humanidade, como no caso das armas nucleares. Atualmente, a Federação de Cientistas Americanos (FAS) estima que oito países possuem aproximadamente 13 mil destes armamentos: Estados Unidos, França, China, Índia, Rússia, Coréia do Norte, Paquistão e Reino Unido, com o número de armas nucleares e países podendo ser maior visto que a estimativa acima foi compilada com base em informações públicas. Embora a quantidade de armamentos disponíveis hoje seja menor do que em décadas passadas, o número de nações que os possuem apenas aumentou. No começo da década de 1950, apenas dois países tinham bombas nucleares em seus arsenais: Estados Unidos e Rússia (na época, chamada de União Soviética). Atualmente, além dos oito países citados acima, presume-se que a nação de Israel também possui armamentos nucleares; simultaneamente, Itália, Alemanha, Bélgica, Holanda e Turquia fazem parte da política de compartilhamento nuclear da OTAN, a qual permite que estes países armazenem armas nucleares de outras nações. A amplitude do acesso a armamentos do tipo, constitui um fenômeno que, além de facilitar o uso indevido destes dispositivos, encoraja a ultrapassagem de barreiras já determinadas contra a proliferação de armas nucleares, sendo, assim, uma grave ameaça à segurança pública mundial, sobretudo numa eventual guerra entre duas nações portadoras de arsenais atômicos. É de suma importância, nesse contexto, a formulação de limites que impeçam o uso indevido destes dispositivos por um número cada vez maior de países e que promovam soluções duradouras contra eventuais ultrapassagens desses limites, tal como (mas não restritas somente a esta) o desarmamento nuclear.
Ao observar casos nos quais houve a implementação de limites sobre avanços e invenções, é possível perceber as diferentes maneiras de se realizar tal ação, fator que também é alvo de discussões extensas. Por um lado, há quem argumente a favor da imposição de limites extremos que diretamente proíbam o acesso a estes avanços por parte da população, como o banimento da ferramenta Chat GPT pela Itália, acompanhado de uma investigação sobre a coleta de informações pessoais por parte da ferramenta. Os motivos para a realização de medidas deste calibre variam; neste caso, houve um consenso de que os riscos de se usar um chatbot que possui falhas de proteção dos dados de usuários "premium" (isto é, que utilizavam a versão paga da plataforma), segundo a Agência de Proteção de Dados Italiana, excedem as vantagens e oportunidades disponíveis ao se fazer uso da ferramenta.
Há, ainda, quem argumente a favor de barreiras mais tênues, que possibilitariam uma utilização, desenvolvimento e pesquisa mais ampla de novas criações. Tal abordagem já está presente em alguns estudos, como o uso de células tronco dos três tipos existentes (adultas, embrionárias e iPS) em pesquisas e aplicações médicas, o qual já é regulado e permitido em alguns países como os Estados Unidos. No território estadunidense, a Food and Drug Administration (FDA) determinou uma série de diretrizes a serem seguidas neste ramo, como a avaliação prévia de doadores de células tronco adultas e o requerimento de uma licença específica para distribuidores dessas células, entre outros. Paralelamente, os Institutos Nacionais da Saúde (NIH) do país publicaram diversas orientações que previam critérios para o financiamento da pesquisa de células tronco embrionárias e condutas éticas que devem ser seguidas na área. Existe, portanto, uma liberdade maior em relação às possibilidades de desenvolvimento do estudo de células tronco mesmo com o controle e a regulação de órgãos públicos. Tal liberdade, porém, traz riscos maiores de protestos com cunho ético, religioso e científico, além de permitirem a utilização indevida das células se não implementadas corretamente.
Não há um consenso sobre qual abordagem é a melhor ou mais efetiva. Longe disso. O intuito deste artigo, ao trazer exemplos variados, é argumentar que a mistura entre abordagens mais sutis e severas, se realizadas responsavelmente, podem ser a chave para achar o equilíbrio tão delicado entre o bem-estar coletivo e a possibilidade de avanços tecnocientíficos. Tão importante quanto estas abordagens, é o conhecimento dos perigos e consequências das suas ausências na sociedade.
A inexistência de limites pré-determinados em relação aos avanços científicos é perigosa por diversas razões. Não somente pois pode arriscar a sobrevivência e perpetuação da espécie humana, mas, também, porque pode causar diversas crises em diferentes âmbitos, como econômico, social e político, ao mesmo tempo. A paz, essencial para a convivência humana em grupo, pode ser ameaçada sob a justificativa da importância de um progresso que, na verdade, tem a possibilidade de ser mais danoso que benéfico e que só teve sua criação sucedida graças à existência de comunidades. Deste modo, trago à você, leitor, o seguinte questionamento: até que ponto certos avanços são aceitáveis? E, em caso do rompimento de limites estabelecidos, o que deve ser feito em prol do grupo afetado?
Infelizmente, por variadas razões, estão, marcados na história, diversos episódios nos quais o poder de criações específicas ultrapassou e feriu todos os pontos abordados anteriormente, no parágrafo acima. Em 1945, responsável pelo fim da II Guerra Mundial, bombas atômicas foram lançadas pelos Estados Unidos da América sob as cidades japonesas de Hiroshima e Nagasaki em resposta a um ataque japonês na base naval estadunidense de Pearl Harbor. A agressão resultou na morte imediata de cerca de 80 mil pessoas, além das outras 60 mil que faleceram dentro de um ano por sequelas provocadas pela explosão e radioatividade.
Ainda que incomparável com tragédias como a de Hiroshima e Nagasaki,
“Frankenstein” já ilustrava, mais de um século antes da guerra, os perigos e danos irreversíveis que podem ser causados por uma ciência ambiciosa e sem limites. Victor, diferentemente dos cientistas criadores da bomba atômica, que buscaram alertar as autoridades do poder destrutivo da arma, não pensou nas consequências de criar um ser com partes cadavéricas humanas. Assim, uma série de eventos, suscetíveis à irresponsabilidade do pesquisador, evoluem. Se o personagem tivesse refletido sobre o impacto de sua criação antes de a tornar prática, muito possivelmente, o desfecho da narrativa teria sido completamente diferente.
É justamente esta crítica de Shelley que é adequada ao passado e presente. Por estarmos suscetíveis, cada vez mais, a inovações complexas e inimagináveis, precisamos, em igual medida, refletir mais sobre os efeitos destas. É fundamental, com um conjunto imenso de possibilidades, pensar no futuro que queremos para a humanidade. Apenas através do exercício da preponderância, é possível prevenir catástrofes que levariam a sociedade a um caminho sem volta - isso porque, a partir desta simples manobra mental, surgem debates, leis, projetos e, sobretudo, conscientização.
*O clássico é considerado domínio público dado que o falecimento da autora ocorreu há mais tempo do que o previsto no Art. 41 da Lei 9610/98. Assim, se você se interessou pela leitura de “Frankenstein”, a leitura completa pode ser realizada através do link: https://edisciplinas.usp.br/pluginfile.php/6574830/mod_resource/content/3/Frankenstein%20-%20Mary%20Shelley.pdf