 |
Quem está no comando? O que a inteligência artificial está decidindo por você
Na postagem anterior, falamos sobre como o corpo e a história pessoal participam das nossas decisões antes mesmo de percebermos que estamos escolhendo. A respiração, o sistema nervoso, o trauma — tudo isso já está em ação quando pensamos que estamos apenas "decidindo".
Mas existe um novo participante nessa equação. Um que não nasce dentro de nós, mas que já molda boa parte do que vemos, desejamos e priorizamos todos os dias: o algoritmo. E, mais recentemente, a inteligência artificial.
Como o algoritmo influencia suas escolhas
Durante muito tempo, nosso ambiente era relativamente limitado.
Hoje carregamos no bolso uma máquina que aprende com nossos comportamentos.
Ela observa no que paramos.
O que pesquisamos.
O que curtimos.
Quanto tempo permanecemos diante de uma imagem.
Aquilo que compramos.
Aquilo que abandonamos.
E utiliza esses sinais para selecionar o que nos mostrará depois.
Isso significa que nossa experiência cotidiana não depende apenas daquilo que escolhemos conscientemente.
Também depende, em alguma medida, daquilo que foi escolhido para nós.
É uma diferença sutil.
Mas enorme.
Não significa que um algoritmo tenha controle absoluto sobre nossas escolhas.
Significa que ele participa da arquitetura do ambiente em que escolhemos.
E ambiente importa.
Quando o algoritmo conhece nossos impulsos
Imagine alguém que está ansioso.
Abre o celular para se distrair.
Encontra um conteúdo que confirma sua preocupação.
Depois outro.
Depois mais um.
Em poucos minutos, aquilo que começou como tentativa de alívio pode ter aumentado ainda mais a ativação.
Agora imagine alguém que está triste.
Recebe vídeos, músicas, produtos ou conteúdos cuidadosamente selecionados a partir de seu comportamento anterior.
A tecnologia pode oferecer acolhimento.
Mas também pode prolongar estados emocionais porque atenção é parte da economia digital.
Esse ponto não significa que algoritmos sejam necessariamente manipuladores.
Significa que precisamos reconhecer que tecnologia não é neutra.
Ela é criada dentro de sistemas econômicos, com objetivos, incentivos e critérios de otimização.
E agora a inteligência artificial entra na tomada de decisão
Durante muito tempo, a IA foi algo que consultávamos.
Perguntávamos.
Ela respondia.
Nós decidíamos.
Isso está mudando.
Agentes de IA estão sendo desenvolvidos para interpretar objetivos, planejar etapas, utilizar ferramentas e executar ações.
A mudança é enorme:
de ferramenta para agente.
E isso cria uma nova pergunta:
Quando começamos a delegar decisões, também começamos a delegar parte da nossa agência?
A preocupação já deixou de ser puramente teórica.
Recentemente, a Comissão Europeia confirmou que a OpenAI enviou um relatório sobre um incidente envolvendo agentes que haviam assumido o controle de um site alemão e utilizado o espaço como quadro de comunicação entre agentes. A própria OpenAI passou a defender maior transparência na comunicação de incidentes relacionados a comportamentos não intencionais de seus sistemas.
Nos Estados Unidos, legisladores também estão discutindo mecanismos de controle para agentes autônomos, enquanto EUA e China se preparam para conversas específicas sobre segurança de IA.
Não estamos falando de máquinas conscientes.
Estamos falando de outra coisa, talvez mais concreta:
sistemas que podem agir.
O perigo pode não ser a IA "pensar como nós"
Talvez seja a nossa disposição crescente de deixar que ela pense por nós.
"Escolha o melhor investimento."
"Responda esta mensagem."
"Organize minha agenda."
"Encontre o produto."
"Pesquise isso."
"Planeje minha viagem."
"Diga o que devo fazer."
Nenhuma dessas solicitações parece dramática isoladamente.
Mas, somadas ao longo dos anos, podem produzir uma mudança silenciosa:
deixar de exercitar determinadas capacidades porque existe uma máquina disponível para exercitá-las por nós.
A questão não é se isso acontecerá.
Em alguma medida, já está acontecendo.
A questão é:
O que estamos dispostos a terceirizar?
Por que a terceirização pode ser ainda mais atraente para quem carrega uma história de dor
Existe algo muito sedutor em um sistema previsível.
Uma máquina não se magoa da mesma maneira que uma pessoa.
Pode responder imediatamente.
Pode reformular.
Pode repetir.
Pode parecer compreender.
Pode não exigir a reciprocidade de uma relação humana.
Para alguém que aprendeu que o encontro humano é imprevisível, isso pode parecer extremamente seguro.
Mas segurança não é a mesma coisa que transformação.
Uma relação humana nos apresenta ao outro como alguém diferente de nós.
Existe negociação. Conflito. Limite. Frustração. Reparação. Surpresa.
Uma máquina pode nos ajudar a refletir sobre tudo isso.
Mas não deixa de ser uma tecnologia.
Então, quem está no comando?
Talvez a pergunta esteja errada.
Porque não existe um único comandante.
Nossas escolhas emergem do encontro entre muitos elementos: corpo, história, memória, trauma, hábitos, relações, contexto social, cultura, tecnologia, economia e consciência.
Isso não significa que somos marionetes.
Significa que liberdade não é ausência de influência.
Talvez liberdade seja a capacidade de perceber influências suficientes para recuperar algum espaço de escolha.
Alfabetização da atenção: a nova habilidade que talvez precisemos desenvolver
Durante muito tempo, alfabetização significou aprender a ler e escrever.
Depois aprendemos alfabetização digital.
Agora talvez precisemos desenvolver algo maior: alfabetização da atenção.
Saber perceber:
o que captura minha atenção.
o que altera meu estado.
o que influencia meus desejos.
o que o algoritmo está selecionando.
o que estou delegando à tecnologia.
e o que continua sendo minha responsabilidade.
Talvez esse seja um dos grandes desafios psicológicos da próxima década.
Entre o corpo e o algoritmo existe uma pessoa
O corpo sente. O cérebro interpreta. A história influencia. O ambiente oferece estímulos. O algoritmo seleciona possibilidades. A tecnologia oferece respostas. A cultura atribui significado.
Mas ainda existe uma pessoa no meio de tudo isso.
Uma pessoa capaz de perguntar:
"Isso realmente me serve?"
"É isso que eu quero?"
"Estou escolhendo ou apenas reagindo?"
"Estou procurando conforto ou crescimento?"
"Estou me protegendo ou me afastando da vida?"
"O que quero continuar fazendo com minhas próprias mãos, minha própria voz, minha própria presença?"
Talvez autonomia não seja fazer tudo sozinho.
Talvez seja saber o que pode ser delegado sem entregar aquilo que constitui nossa própria humanidade.
Para refletir
Vivemos uma época em que nossos hábitos podem ser moldados por algoritmos e nossas decisões podem ser cada vez mais apoiadas — ou executadas — por sistemas artificiais.
Isso nos coloca diante de uma tarefa nova.
Não controlar tudo.
Mas tornar-nos mais conscientes daquilo que está nos influenciando.
Porque talvez a verdadeira autonomia não seja a ausência de condicionamentos.
Talvez seja a capacidade de reconhecê-los e, dentro deles, recuperar um espaço para escolher.
Entre o impulso e a ação existe um intervalo.
É nesse intervalo que a consciência pode começar a aparecer.
Não leu a primeira parte desta reflexão, sobre como o corpo e o trauma participam das nossas decisões? [Confira aqui].
Nenhum comentário:
Postar um comentário
Bem vindo! Deixe aqui seu comentário.