A IAs mandam em você?

Na era da inteligência artificial, da engenharia genética e das inúmeras possibilidades tecnológicas, surge uma questão filosófica central: o fato de que algo pode ser feito significa que deva ser feito? Para responder a esta pergunta, é essencial revisitarmos os conceitos de autonomia e autarquia, que oferecem uma base conceitual para compreendermos a relação entre a humanidade e suas criações tecnológicas.

Olhe para essas máquinas, Neo. Elas nos mantêm vivos.

Em Matrix Reloaded, o Conselheiro Hamann e Neo discutem o papel das máquinas em Zion. Hamann reflete: "Olhe para essas máquinas, Neo. Elas nos mantêm vivos. Ventilação, irrigação, energia. Mas, ao mesmo tempo, dependem de nós para operá-las. É uma relação simbiótica." Este diálogo ilumina a questão da interdependência entre humanos e tecnologia, destacando que controle e dependência são dois lados de uma mesma moeda. A partir dessa reflexão, somos levados a questionar: é possível existir liberdade em um mundo moldado por essa simbiose, por esse viver junto?

Para ajudar a responder esta pergunta precisamos ter em mente dois fundamentos importantes que participam da nossa “liberdade”. Primeiro a autonomia, conceito fundamental na compreensão da ética e da política a partir da modernidade, tendo como pano de fundo o pensamento kantiano; segundo, a autarquia, essencial para compreensão do que somos como seres humanos e do que somos capazes para manter em nós mesmos a chama de uma existência livre e incondicionada.

A Autonomia como Capacidade Reflexiva

Por um lado, a autonomia, entendida como a capacidade de agir segundo princípios racionais que o próprio sujeito estabelece, é fundamental na moral kantiana, lembrando que são os fundamentos dessa moral que nos guiará para o século 20 e estabelecerá os princípios das relações entre Estado, Sistema Econômico e Sujeitos Sociais na atualidade. 

De fato, na sua síntese, ela nos convida a pensar além dos desejos imediatos ou da simples viabilidade de uma ação, seja na coletividade, seja na privacidade, seja na política, seja no social, ou outro campo da ação humana. Na aplicação tecnológica, o tema da nossa reflexão, a autonomia exige que os desenvolvedores, cientistas e tomadores de decisão questionem não apenas “é possível fazer isso?”, mas também “é correto, é ético e é benéfico fazer isso?”.

Ao adotarmos a autonomia como guia, somos chamados a considerar as consequências das inovações tecnológicas. Por exemplo, a criação de armas autônomas ou sistemas de vigilância massiva pode ser tecnicamente viável, mas é moralmente aceitável? Sem a autonomia como uma base reflexiva, a humanidade corre o risco de subordinar-se à própria tecnologia, perdendo o controle de suas decisões.

A verdade é que a tecnologia nunca é determinista.

Autarquia e a Ilusão da Autossuficiência Tecnológica

Por outro lado, a autarquia, entendida como autossuficiência, reflete a busca pela independência em relação a influências externas. No contexto tecnológico, a autarquia é frequentemente interpretada como a capacidade de resolver problemas sem depender de fatores alheios. Entretanto, essa busca por autossuficiência pode gerar uma ilusão de que as tecnologias são neutras ou deterministas, como se sua existência já definisse seu uso.

A verdade é que a tecnologia nunca é determinista. O simples fato de que uma ferramenta exista não implica que ela deva ser utilizada indiscriminadamente. A crença na neutralidade tecnológica desconsidera as escolhas humanas por trás de sua criação e implementação. Cabe à sociedade decidir como e se determinada inovação deve ser aplicada.

O Papel da Responsabilidade Humana

A reflexão sobre autonomia e autarquia destaca a responsabilidade humana no controle e orientação das tecnologias. No coração dessa responsabilidade está a necessidade de evitar dois extremos: o determinismo tecnológico, que nos coloca como meros espectadores do progresso, e a ilusão de controle absoluto, que ignora os impactos sociais e éticos das inovações.

Isso significa dizer que, como o conselheiro Hamann reflete em seu diálogo com Neo em Matrix - Reloaded,  as máquinas não são apenas ferramentas externas; elas são parte integrante da vida humana na contemporaneidade, sem as quais as sociedades atuais não poderiam existir, mas, que ao mesmo tempo, também dependem dos humanos para serem mantidas e operadas. Ou seja, no atual contexto, o fato é que há uma impossibilidade visível e latente de uma independência absoluta entre eles e elas.

Neste sentido, o entedimento humano ocorre na dimensão primeira de compreensão de si mesmo diante dessa dependência, em que é essencial a percepção de que o desenvolvimento tecnológico atual seja guiado por princípios éticos urgentes de respeito à dignidade humana, à sustentabilidade ambiental e ao bem-estar coletivo.

A moral kantiana nos lembra que a moralidade é universal e que nossas decisões devem ser tomadas como se fossem criar leis universais para toda a humanidade. Em que cada escolha tecnológica deve ser avaliada não apenas pelos seus benefícios imediatos, mas também pelas consequências de longo prazo para as futuras gerações, visando não a sua submissão às forças externas a si mesma, mas a sua capacidade de produzir potências para conduzir a si mesmo.

Um Chamado à Reflexão Coletiva

A tecnologia é uma ferramenta poderosa, mas não é autônoma. Cabe à humanidade decidir seu destino, reconhecendo que o poder de criar carrega também o dever de refletir. Ao adotar uma postura baseada em autonomia e responsabilidade, evitamos o risco de nos tornarmos servos de nossas próprias criações.

A próxima vez que nos depararmos com uma inovação, devemos perguntar: estamos agindo como agentes autônomos, refletindo sobre o impacto de nossas ações, ou estamos permitindo que o progresso tecnológico dite nossas escolhas? Com efeito, devemos nos perguntar: quem está no controle? As máquinas, que têm poder físico e técnico, ou os humanos, que as criaram e as mantêm?

O futuro está em nossas mãos — e é nossa responsabilidade moldá-lo com sabedoria e prudência.