Entre humanos e espectros digitais: o medo de revelar quem somos

As redes sociais estão se tornando um hub de inteligência artificial. E isso, por si só, é um problema.

O que é ainda mais perturbador é perceber quantos perfis, aparentemente humanos, não passam de construções artificiais: fotos geradas por IA, biografias fabricadas e histórias meticulosamente elaboradas para criar a ilusão de presença humana.

Mas por que alguém criaria um perfil completamente falso? O que tanto assusta em revelar a própria identidade? É o medo do julgamento? Do erro? Da rejeição? Ou, mais radicalmente, é porque talvez não haja autenticidade alguma?

A era digital sempre teve seus avatares e máscaras. Mas agora — entre bots e IA — esses rostos não correspondem a nenhuma história real; são algoritmos produzindo não apenas uma aparência, mas uma pessoa inteira que nunca existiu.

Isso muda tudo. Não estamos mais falando de anonimato, mas de existência artificial: presenças que influenciam debates, constroem reputações e disputam espaço com vozes reais e legítimas, de presença.

A questão central aqui é a “erosão da confiança”. Como podemos construir vínculos, acreditar em opiniões ou nos engajar em diálogos se não temos certeza de que existe um sujeito do outro lado? E quando esse “sujeito” é um espectro programado para persuadir, vender ou manipular?

A erosão da confiança nos espaços digitais

Muitas plataformas estão se tornando um hub de IA, e a questão central não é apenas a presença de inteligência artificial, mas a substituição da identidade humana por identidades artificiais fabricadas — perfis falsos, fotos geradas por IA, narrativas inteiras construídas.

A internet nunca foi, de fato, um espaço de confiança. Pelo contrário, sempre carregou uma dose de suspeita e incerteza. Afinal, a possibilidade do anonimato é um dos maiores fatores de risco quando falamos de identidade virtual e das relações entre pessoas no ambiente online.

Agora, a situação é ainda pior.Falamos da criação de identidades completamente artificiais: rostos inexistentes, histórias de vida fabricadas, narrativas irreais que se passam por autênticas — com direito a fotos, vídeos, histórico de vida e até currículo.

Não se trata de criticar avatares, role play online ou uma “second life”, onde ainda existe um sujeito real por trás, um alter-ego com alguma autenticidade e presença. O problema é outro: estamos entrando em uma era em que, entre bots, fake news e perfis artificiais, a confiança — já frágil no espaço digital — se dissolve ainda mais.

E as consequências desse mundo artificial e irreal são múltiplas: relações superficiais, manipulação em larga escala, dificuldade de estabelecer vínculos autênticos e até a erosão do próprio valor da palavra escrita.

Crise de autenticidade

Quando alguém escreve algo online, assumimos — ainda que inconscientemente — que existe um sujeito por trás: uma pessoa com história, experiências reais, afetos, posicionamentos éticos e políticos. Essa suposição sustenta a confiança mínima necessária para que a comunicação faça sentido.

Perfis falsos gerados por IA — com fotos que nunca existiram e histórias de vida fabricadas — desestabilizam essa base. Quem está falando? Quem é responsável pelo que está sendo dito? Quando não há sujeito, apenas uma simulação dele, a relação se rompe.

Já não estamos lidando com anonimato (que ainda carrega uma autoria real), mas com entidades artificiais sem qualquer vínculo com a realidade, criadas apenas para “performar presença”.

Essa erosão da autoria tem consequências profundas: mina a credibilidade dos debates públicos, fragiliza a noção de responsabilidade pelo discurso e enfraquece nossa disposição de confiar no outro. Se todo perfil pode ser um espectro fabricado, qual é o valor de uma palavra escrita? E, mais importante, quem se beneficia quando a confiança se dissolve?

O perigo não está apenas no engano pontual, mas em um processo sistêmico de corrosão da confiança, no qual o falso se mistura tão perfeitamente ao real que a dúvida se torna regra — e, num ambiente de dúvida permanente, a manipulação encontra terreno fértil.

O risco da manipulação em massa

Se você já me conhece, sabe que eu não conseguiria evitar politizar ainda mais esse debate.

Por isso, questiono as identidades artificiais geridas intencionalmente para múltiplos fins, afetando tudo — do micro ao macro, do indivíduo ao grupo social.

Identidades falsas podem ser usadas estrategicamente para influenciar debates públicos, manipular opiniões ou gerar “movimentos espontâneos” que, na verdade, são artificialmente fabricados.

A proliferação de identidades artificiais — seja na forma de vídeos, fotos, bots, podcasts, canais de YouTube ou a combinação de tudo isso — não é apenas uma curiosidade tecnológica, mas um instrumento poderoso que pode ser utilizado para a manipulação em massa.

A capacidade da IA de criar uma “performance de presença” convincente pode enganar e corroer ainda mais a confiança online, tornando nossas interações cada vez mais superficiais e artificiais.

O impacto político disso é alarmante. Em um momento de ascensão do fascismo e da extrema-direita em várias partes do mundo, a manipulação por IA se torna uma ferramenta perigosa. A produção de conteúdo artificial pode influenciar eleições, espalhar desinformação, fortalecer discursos autoritários e desestabilizar a democracia global.

Isso não é exatamente novo (bots do Twitter já faziam isso), mas a sofisticação atual da IA — criando rostos realistas, perfis consistentes, até padrões de escrita emocionalmente convincentes — torna a manipulação muito mais difícil de identificar.

Esse fenômeno não surge isolado: o capitalismo desenfreado, movido pela busca de lucro e controle, contribui diretamente para essa manipulação.A lógica capitalista, ao explorar essas tecnologias, fomenta a criação de narrativas artificiais que podem ser usadas para manipular opiniões e fortalecer agendas políticas específicas.

O resultado é um cenário no qual a democracia se torna cada vez mais frágil. Quando a confiança nas informações e nas relações é corroída, abre-se espaço para que ideologias extremistas ganhem força e legitimidade. A manipulação por IA, nesse contexto, não é apenas uma ameaça tecnológica, mas um desafio crítico à integridade das nossas democracias.

Impacto psicológico e relacional

Há algo profundamente inquietante em interagir com uma “pessoa” que nunca existiu. Isso pode afetar não apenas nossa percepção do outro, mas também nossa própria identidade online.

Podemos passar a desconfiar de tudo e de todos, corroendo um dos pilares básicos da interação humana: a confiança.

Essa desconfiança constante tem consequências psíquicas importantes. Ela pode gerar ansiedade social, sensação de isolamento e um estado de alerta permanente em cada interação online. A própria construção da subjetividade se fragiliza: se tudo pode ser falso, como confiar nas nossas experiências digitais, nos vínculos que formamos e até na nossa capacidade de nos reconhecermos no mundo virtual?

A ausência de um sujeito concreto por trás dessas identidades artificiais também dificulta a responsabilização ética e jurídica. Quem responde pelo que é dito? Quem é responsável pelos danos causados? Quando não há sujeito, não há responsabilidade — e isso nos coloca diante de uma comunicação assimétrica e, muitas vezes, violenta.

Talvez o maior desafio seja assumir a autoria do que escrevemos e compartilhamos, com todos os riscos e fragilidades que isso implica. Porque, no fim, uma pergunta permanece:

O que tanto te assusta em dizer: “eu sou eu, e estas palavras são minhas”?