De tanto discutir sobre quando a tecnologia iria superar nossas habilidades, não percebemos que as máquinas estavam focando em conhecer nossos pontos fracos.
Esta é a base de um conceito que está na moda no Vale do Silício, conhecido como human downgrading (degradação humana).
A expressão foi cunhada pelo cientista da computação Tristan Harris e
seu sócio Randima (Randy) Fernando, cofundadores do Center for Humane
Technology (CHT), uma organização sem fins lucrativos cuja missão é "reverter a degradação humana" e "realinhar a tecnologia com a nossa humanidade".
No documentário O Dilema das Redes, Harris e Fernando expõem essa
questão, profundamente ligada à chamada "economia da atenção" — como as empresas monetizam nossa atenção por meio das redes sociais e outras tecnologias digitais. E nossa atenção, que é finita, acaba sendo sugada pelo excesso de informação disponível.
Fernando, diretor-executivo do CHT, acredita que a tecnologia deve ser
"mais humana". Na entrevista a seguir, concedida à BBC News Mundo,
serviço em espanhol da BBC, ele explica o motivo.
BBC News Mundo - Como surgiu o seu interesse pela economia da atenção e por que isso é importante?
Randima (Randy) Fernando
- Meus pais me ensinaram mindfulness (meditação baseada na atenção
plena) e tecnologia desde pequeno, então segui esse caminho. Eu me
interessei muito por computação gráfica e trabalhei na Nvidia
(multinacional do Vale do Silício) por sete anos. Depois, ajudei a
fundar uma organização chamada Mindful Schools para ensinar mindfulness
em escolas.Fiz isso por um tempo até esbarrar com Tristan [Harris].
/i.s3.glbimg.com/v1/AUTH_59edd422c0c84a879bd37670ae4f538a/internal_photos/bs/2021/V/E/wd2RbwSLaEotp0qMFBuA/redes2.jpg)
Randy Fernando (à esquerda) fundou com Tristan Harris (à direita) o Center for Humane Technology — Foto: CHT via BBC
Nós dois estávamos muito interessados em mindfulness. Começamos a
perceber que éramos contra a forma como a economia da atenção compete
constantemente para treinar nossas mentes de maneira distinta.
A economia da atenção é uma adversária da atenção plena. É muito fácil para as empresas criarem perfis sobre nós com base nas informações que compartilhamos nas redes sociais,
e elas compartilham essas informações com os anunciantes. Esse modelo
de negócio torna a nossa atenção vital e, além disso, não se baseia nos
nossos interesses, mas nos dos anunciantes.
Decidimos que o melhor era criar uma organização para gerenciar o
crescente interesse pelo assunto (sobretudo desde que Harris falou sobre
o tema em um programa nacional de televisão em 2017) e tentar resolver o
problema. Três anos depois, ainda estamos trabalhando nisso.
BBC News Mundo - Para resolver o problema, vocês propõem "reverter a degradação humana". O que isso significa?
Fernando -
Grande parte do trabalho que fazemos tem a ver com a mente, com o vício
e como combatê-lo; com meditação e bem-estar emocional. Também com
democracia e polarização, com a distorção da verdade. Todas essas questões estão inter-relacionadas e vinculadas à "degradação humana".
Nós a descrevemos como algo cíclico: à medida que progredimos e
atualizamos nossas máquinas, temos degradado os seres humanos. E deveria
ter sido o contrário. Isso é algo que se repete constantemente.
Durante muito tempo, nos entusiasmamos muito diante de todos os avanços
tecnológicos, mas investimos tanto esforço e energia no avanço da
tecnologia — que tanto nos beneficiou por décadas — que não prestamos atenção suficiente às mudanças que estavam provocando em nosso cérebro.
Num dado momento, ficamos vulneráveis a ela porque a tecnologia pode ser usada para tirar proveito de nossas fraquezas.
BBC News Mundo - O que mudou nos últimos anos para essa questão ser colocada em debate dentro e fora do Vale do Silício?
Fernando - A "degradação humana" ultrapassou alguns limites importantes, por isso agora está começando a nos preocupar.
Vamos ficando cientes de como as notificações tentam "sequestrar" nossa
atenção. Se os designers a usam a seu favor, podem nos fazer gastar
mais tempo em seu produto, atrair nossa atenção para que nos fixemos em
certos elementos por meio de aspectos como o brilho da tela e outros
pequenos "truques".
E
já não sabemos mais o que é real e o que não é. Os deepfakes (vídeos
falsos baseados em um modelo real modificados com inteligência
artificial) são um bom exemplo disso.
/i.s3.glbimg.com/v1/AUTH_59edd422c0c84a879bd37670ae4f538a/internal_photos/bs/2021/w/j/LcWdTcR7WH7zlryUDyXQ/redes3.jpg)
Os deepfakes são um exemplo de como a tecnologia pode nos degradar: não
conseguimos diferenciar o que é real e o que não é — Foto: ROB
LEVER/Getty Images via BBC
A mente humana é limitada.
É maravilhosa em muitos aspectos, mas tem pontos fracos. Agora que
sabemos que a tecnologia cruzou essa barreira, nosso entusiasmo diminuiu
porque é algo que não podemos mais controlar.
No entanto, as forças de mercado continuam a usar novas tecnologias em
seu benefício para aumentar as vendas. Os analistas ficam fascinados ao
encontrar novas maneiras de usar a tecnologia a seu favor e transformar
essas tendências em dinheiro. Mas quem pensa nos benefícios não está
levando em conta as consequências.
Isso está acontecendo em todo o mundo e em todos os níveis. Analistas,
designers de produtos e governos estão competindo entre si. E no final
acaba sendo uma arma muito perigosa. Mas há cada vez mais reações
contra.
BBC News Mundo - Você descreve como um sistema perverso. Isso poderia ter sido previsto de alguma forma?
Fernando -
Sim, claro que foi previsto. E não só isso: também se buscou isso por
parte daqueles que querem explorá-lo a seu favor. Uma parte importante
do problema é que aqueles que tentam encontrar soluções geralmente não
costumam ser os mesmos que criam o problema.
Há pessoas muito competentes alertando sobre o uso da tecnologia há
muito tempo, mas aqueles que trabalham nos avanços tecnológicos têm
outros incentivos e não estão interessados em desacelerar porque
muitas vezes isso significa um prejuízo, do qual a concorrência pode se
aproveitar.
É por isso que lidar com esse problema é tão complexo. Somado a isso, a "degradação humana" é cíclica.
/i.s3.glbimg.com/v1/AUTH_59edd422c0c84a879bd37670ae4f538a/internal_photos/bs/2021/U/1/IbRVQoSZ22OxOC0uWdMg/redes4.jpg)
A 'degradação humana' é cíclica, segundo Fernando — Foto: Getty Images via BBC
BBC News Mundo - O que você quer dizer com cíclica?
Fernando - Quando nossa atenção é interrompida repetidamente, ficamos mais distraídos. Nos tornamos a pior versão de nós mesmos. A tecnologia muda a gente. E isso acontece constantemente e cada vez mais porque as redes sociais facilitam esse processo.
Quando competimos por atenção — curtidas, comentários,
compartilhamentos — começamos a "dizer" coisas diferentes, a usar outra
linguagem. Publicamos fotos que chamam mais atenção, somos mais radicais ao debater questões políticas... tudo isso beneficia os algoritmos.
Ao fim do ciclo, a tecnologia acaba nos mudando e, efetivamente, nos
degradando. E quando nos degradamos, ficamos mais vulneráveis no ciclo
seguinte, porque quando estamos mais distraídos é mais fácil que
aconteça um novo ciclo.
Acaba sendo uma corrida [de empresas] para chegar ao fundo do nosso
tronco cerebral que revela o que há de pior em nós mesmos — e que cada
vez mais inclui menos pausa, menos reflexão e menos meditação porque
estamos ocupados reagindo o tempo todo.
BBC News Mundo - É fácil nos sentirmos impotentes diante desta situação... o que podemos fazer?
Fernando -
Sem dúvida é! É uma parte tão importante da economia... movimenta
trilhões de dólares! Mas podemos atuar em dois níveis: primeiro pessoal
e, segundo, coletivo.
O primeiro passo realmente começa por nos educar a respeito. A nível pessoal, podemos fazer coisas vitais como limitar notificações, usar menos as plataformas digitais, mudar o que mostramos nelas e nossas interações online. Basicamente, entender como estamos sendo manipulados e agir de acordo.
Além disso, existe o plano coletivo. Portanto, estamos criando um
espaço para permitir que as pessoas manifestem suas preocupações.
Isoladamente não fazemos muito, mas em conjunto temos força. Quando nos
unimos, podemos realizar uma mudança real. Isso é muito importante
porque a "degradação humana" está nos mudando como sociedade.
A questão é: que mudanças queremos promover?
Um elemento-chave é que o produto que usamos deve ser diferente,
precisa ter uma codificação diferente. E essa mudança deve ser feita de
dentro, mas a pressão de consumidores, investidores, políticos,
educadores e tecnólogos pode ajudar.
Temos
que mudar as condições do jogo. A tecnologia que divide a sociedade não
é uma tecnologia "humana", porque é prejudicial aos seres humanos.
BBC News Mundo - Até que ponto você diria que estamos abrindo caminho para uma tecnologia mais "humana"?
Fernando -
Para ser honesto, eu me surpreendi positivamente com o quão longe
chegamos, porque a certa altura pensei que ficaríamos eternamente presos
na definição do problema.
Mas agora, e em parte graças à repercussão do documentário O Dilema das
Redes — que só no primeiro mês (setembro) foi visto por mais de 38
milhões de pessoas — muito mais gente entende isso.
Felizmente,
cada vez mais pessoas estão percebendo como as informações que
compartilham nas redes sociais favorecem a economia da atenção. Isto é
muito importante.
Uma das coisas mais maravilhosas de que haja tanta gente preocupada a
respeito do tema é que podemos realmente fazer força para enfrentá-lo.
Cada vez mais empresas e países estão tomando medidas, e vejo
oportunidades de mudança no curto e médio prazo.
Agora temos que continuar espalhando a mensagem para que a tecnologia seja cada vez mais humana e nos permita conectar melhor, propagar a verdade e trazer à tona a melhor versão de nós mesmos.
------++-====-----------------------------------------------------------------------=================---------------------------------------------------------------------------------====-++------
/i.s3.glbimg.com/v1/AUTH_59edd422c0c84a879bd37670ae4f538a/internal_photos/bs/2020/Q/s/Si3PO2TdGrIYeVpXZ1FA/2020-05-09t000000z-1874358627-rc25lg9vwuf5-rtrmadp-3-health-coronavirus-tesla.jpg)
/i.s3.glbimg.com/v1/AUTH_59edd422c0c84a879bd37670ae4f538a/internal_photos/bs/2020/N/q/Orc5uoQA2GlOa6MGVVIA/2020-07-28t140040z-1839710323-rc2e2i93o7e2-rtrmadp-3-health-coronavirus-ces.jpg)
/s2.glbimg.com/hmaHHrcngArLTTw6SlfsHUxYdZE%3D/200x0/filters%3Aquality%2870%29/i.s3.glbimg.com/v1/AUTH_59edd422c0c84a879bd37670ae4f538a/internal_photos/bs/2018/O/W/HwkTzFSHWacfk1GndHhg/bbc-news-tile-hr-rgb.jpg)
/i.s3.glbimg.com/v1/AUTH_59edd422c0c84a879bd37670ae4f538a/internal_photos/bs/2021/L/B/nnL0XRRj2kt399HLAwOw/redes1.jpg)