Edição 495 | 17 Outubro 2016

Algoritmos devem ser debatidos

close

FECHAR

Enviar o link deste por e-mail a um(a) amigo(a).

Vitor Necchi

Para o professor Paulo César Castro, as pessoas precisam entender e dar limites aos mecanismos que coletam diariamente informações que abastecem governos e corporações privadas

O professor Paulo César Castro não quer se assumir pessimista, nem apocalíptico, conforme denominação de Umberto Eco, mas reconhece que as ações dos serviços de segurança dos Estados Unidos já denunciadas em episódios como os que envolvem Julian Assange (refugiado na embaixada do Equador em Londres desde 2012) e Edward Snowden (refugiado na Rússia) podem ser indícios para preocupações. “Parece que qualquer um de nós que denunciar o caráter totalitário dos governos através dessa forma moderna de vigilância vai pagar um preço bem alto”, teme.

Em entrevista por e-mail para a IHU On-Line, Castro afirma que, no século 20, com os computadores, “os algoritmos assumem uma especial proeminência, ainda que, muitas vezes, não nos demos conta deles”. Esse fenômeno se acentua nos dias de hoje por conta da internet. “Se cada era está submetida a algum princípio de organização, mais recentemente este princípio está essencialmente baseado nos algoritmos computadorizados.”

Os objetivos pode ser diferentes, mas Castro lembra que governos e corporações privadas “estão buscando saber cada vez mais sobre quem interage com as tecnologias digitais”. Por isso, defende que qualquer pessoa deve aprender como navegar em sites ou como usar quaisquer equipamentos digitais, assim como saber sobre o monitoramento que ela pode estar sendo submetida. “Ao mesmo tempo que deveríamos poder dizer se queremos ou não ser monitorados, também temos o direito de saber o que será feito efetivamente com os dados recolhidos a nosso respeito.”

Trata-se de um caminho sem volta. “Se o uso das tecnologias digitais já está inexoravelmente associado ao nosso dia a dia, inclusive como fator de inclusão social, não temos outra opção a não ser debater publicamente, nas redes sociais, nas ruas ou nos espaços formais da atuação política, o papel dos algoritmos”, defende.

Os algoritmos são elemento central neste sistema de vigilância das pessoas. “A lista seria inesgotável, pois não há quase nada na nossa interação com as tecnologias digitais, principalmente as baseadas na internet, que não seja acompanhada por algum, às vezes, insidioso algoritmo”, explica. “Os algoritmos têm sido, para mim, umas das expressões máximas da lógica que estabelece hierarquias, recomenda o melhor e o pior, define valores e gostos, aponta caminhos e soluções e, por fim, redesenha muitos de nossos valores e vínculos sociais.” E como eles são invisíveis, há pouco entendimento e crítica sobre eles.

Castro afirma que é preciso debater sobre os algoritmos e suas lógicas para se ter sobre eles uma olhar crítico, o que não significa demonizar a internet. “Representa a realização do saudável exercício da democracia em um espaço que vem se configurando como tão importante e vital para nossa existência.”

Paulo César Castro é professor associado da Escola de Comunicação (ECO) da Universidade Federal do Rio de Janeiro (UFRJ), onde coordenou o curso de Produção Editorial e chefiou o Departamento de Expressão e Linguagens (DEL). Na ECO/UFRJ, obteve seu mestrado e doutorado, ambos em Comunicação e Cultura. A graduação, em Jornalismo, foi realizada na Universidade Federal do Ceará (UFC). Atualmente coordena o Programa de Educação Tutorial (PET) da ECO e também o Projeto de Extensão "Editor em Ação", a partir do qual é realizado anualmente o evento de mesmo nome do curso de Produção Editorial. Compõe a diretoria do Centro Internacional de Semiótica e Comunicação (CISECO). É um dos responsáveis pela organização dos três últimos livros lançados pelo CISECO, em parceria com a Edufal, a partir das conferências de pesquisadores brasileiros e estrangeiros apresentadas no evento anual Pentálogo. É membro dos grupos de pesquisa "Midiatização das Práticas Sociais" (Unisinos), "Políticas e Economia da Informação e da Comunicação - PEIC" (ECO/UFRJ) e "Laboratório de Estudos em Comunicação Comunitária - LECC" (ECO/UFRJ). Dedica-se a pesquisas nas áreas de semiótica, comunicação, midiatização, internet, redes sociais, jornalismo e produção editorial.

 

Confira a entrevista.


IHU On-Line - O que são algoritmos e de que maneira eles estão presentes na vida das pessoas?

Paulo César Castro - Respondendo de modo bem simples, algoritmos são séries de instruções para resolver um problema. E este problema pode ser também uma atividade bem simples, como ensinar a um amigo a chegar à nossa casa a partir do aeroporto. Se ele, por exemplo, for fazer o trajeto através de um “algoritmo” de transporte público, precisaremos dar as instruções sobre qual ônibus deverá apanhar no aeroporto, onde descerá para pegar o metrô, em qual estação desembarcará e depois quais ruas e quantos quarteirões precisará andar até a nossa casa. Sendo assim, a lógica dos algoritmos está presente em nossas vidas nas atividades mais banais do nosso dia a dia. Mas é claro que é no século 20, com os computadores, e mais ainda com a internet nos dias de hoje, que os algoritmos assumem uma especial proeminência, ainda que, muitas vezes, não nos demos conta deles. Os problemas passaram a ser resolvidos em escalas muito maiores, e em tempos infinitamente muito mais curtos, principalmente a partir da capacidade das máquinas de executarem repetidamente operações de menor ou maior complexidade. Como as tecnologias digitais assumiram uma dimensão fundamental na nossa existência contemporânea, concernente ao conceito de bios midiático de Muniz Sodré , e em grande parte suas lógicas têm sido regidas pelos algoritmos, eles estão presentes nas nossas vidas de uma forma mais espraiada do que a maioria das pessoas sequer imagina. Os algoritmos estão por trás de uma, aparentemente banal, pesquisa no Google, dos anúncios publicitários que estão sempre a nos espreitar em qualquer página que visitamos, da forma como nossa time line no Facebook é organizada, da lista de filmes que o Netflix nos exibe assim que ligamos a televisão. Se podem ter sua aplicação tão costumeiramente associada à escolha das ações nas quais investir, podem também ser os responsáveis pela “lógica” das ações policiais em uma cidade, pelos métodos de triagem de “suspeitos” na fila de um aeroporto, pela escolha de alguém, numa lista de candidatos, para ocupar uma vaga de emprego, pelas pessoas que são indicadas umas às outras num site de relacionamentos, pelos valores dos seguros, baseados na forma como os motoristas dirigem. A lista seria inesgotável, pois não há quase nada na nossa interação com as tecnologias digitais, principalmente as baseadas na internet, que não seja acompanhada por algum, às vezes, insidioso algoritmo.


IHU On-Line - O senhor tem usado a expressão era do algoritmo. Conceitue-a, por favor.

Paulo César Castro - O uso massivo da internet em escala global tem instituído – aproveitando ainda o conceito de bios midiático – outra ambiência, e é através dela que temos, cada vez mais, redefinido nossas formas de vínculo social. Nesse novo modo de sociabilidade, que Muniz Sodré elabora a partir da visão tríade de Aristóteles  sobre os gêneros de existência na polis (o do conhecimento, o dos prazeres e o da sociabilidade política), os algoritmos têm sido, para mim, umas das expressões máximas da lógica que estabelece hierarquias, recomenda o melhor e o pior, define valores e gostos, aponta caminhos e soluções e, por fim, redesenha muitos de nossos valores e vínculos sociais. Se as mídias tradicionais, ainda que não sejam as únicas, ainda desempenham um papel significativo como classificadores dos sentidos, baseadas nos fundamentos “algorítmicos” dos gatekeepers , dos editores, dos curadores, esse trabalho passa cada vez mais a ser dividido com o nexo algorítmico das máquinas. Se cada era está submetida a algum princípio de organização, mais recentemente este princípio está essencialmente baseado nos algoritmos computadorizados, como aponta o escritor das áreas de tecnologia e cultura Navneet Alang. Ele, aliás, defende que o século 19 teve o romance como seu princípio organizador, enquanto o século 20 teve a televisão. Como nos últimos tempos a mutação tecnológica é muito mais rápida, Arlang considera que o site foi o princípio por trás da web 1.0, e, pouco tempo depois, com a web 2.0, este mudou para os aplicativos. Os dispositivos que ele indica para cada era podem até ser questionáveis, mas pelo menos todos têm em comum o pertencimento ao campo das mídias. Evidentemente que não assumo como minha a formulação da expressão “era dos algoritmos”, mas, se a uso, é porque acredito na importância que eles crescentemente têm tido para a sistematização de visões de mundo (reiterando-as ou propondo outras). Mas o mais problemático é que, por serem elaborados com técnicas computacionais/matemáticas, levam à crença de que estão isentos de qualquer subjetividade. E por causa de sua invisibilidade – pois, no geral, agem silenciosamente entre uma interação e outra do usuário com as tecnologias digitais, sem serem devidamente anunciados -, muito pouco ainda têm sido submetidos a escrutínio, avaliação ou crítica. Minha impressão é que as escabrosas revelações feitas por Julian Assange , do Wikileaks, e por Edward Snowden  ainda não foram suficientes para despertar devidamente na sociedade uma ampla discussão sobre os meios que vêm sendo usados para monitorar todas as nossas ações no ambiente da internet.


IHU On-Line - Do que se trata a lógica midiatizante dos algoritmos, tema já explorado pelo senhor em suas reflexões?

Paulo César Castro - O algoritmo funciona sobre o seguinte princípio básico: input > processamento > output. Após a entrada de algumas informações básicas em um dispositivo, elas são processadas segundo um algoritmo que, ao final, apresenta um resultado como saída. Uma operação matemática com uma calculadora pode representar um exemplo bem simples de aplicação do algoritmo. Com a internet, os inputs têm sido dados pelos próprios usuários a partir de suas interações com diferentes dispositivos conectados à internet, seja de modo deliberado ou, muitas vezes, sem que sequer tenha consciência desse ato. Os registros dessas ações são então armazenados em imensos reservatórios (chamados de Big Data) e processados segundo as lógicas algorítmicas internas a cada dispositivo ou tecnologia, pertencentes a governos, empresas, instituições não governamentais e até a pessoas físicas. O output, em cada situação, depende dessas entradas e dos modos como foram programados os seus processamentos. Sendo assim, a experiência do usuário com as tecnologias, de acordo com o que lhe é recomendado como ordem, valor, classificação, sistematização etc., e até mesmo pelo que deixa de ser recomendado, é baseado no processo midiatizante que têm os algoritmos como lógica. Não se trata aqui de considerar esse usuário como um mero receptor passivo e indefeso diante dos outputs que lhe são dirigidos, pois ele pode reagir sob as mais diferentes estratégias aos encantos dos algoritmos e de suas instituições proprietárias, mas isso não significa que, diante da importância dos discursos que vêm sendo formulados a partir dessa nova ambiência, o debate não deva ser feito. Aliás, já está mais do que na hora. 


IHU On-Line - O limite entre esfera pública e esfera privada está cada vez mais esmaecido?

Paulo César Castro - Um dos aspectos que explorei ao apresentar o livro Dicotomia público/privado: estamos no caminho certo?, que organizei em 2015 a partir de um evento realizado pelo Centro Internacional de Semiótica e Comunicação (CISECO), do qual sou diretor, foi como o homem moderno, cada vez mais afastado do espaço público, refugiou-se no mundo “seguro” da esfera privada. Mesmo flanando pelas ruas turbulentas do século 19, o fez sob o direito de ficar em silêncio e sozinho, quando exercitou o voyeurismo foi sob uma observação passiva, e ao se expressar, preferiu o diário íntimo, para não revelar nada sobre si ao público. Não por acaso foi em 1890, quando os jornais acentuaram suas coberturas das vidas íntimas das pessoas, que os americanos Samuel Warren  e Louis Brandeis  escreveram um pequeno artigo na Harvard Law Review defendendo o direito do indivíduo de ser deixado sozinho (“to be let alone”). Uma pergunta que fiz no livro foi como, nos dias atuais, o internauta está tão próximo ou tão distante do voyeur/flâneur. Acho que há aproximações, mas também afastamentos entre os dois contextos. Se considerarmos que o privado pode ser tomado como aquilo que é feito ou dito em um círculo restrito de pessoas e até mesmo em segredo, como podemos avaliar a massiva autoexposição da vida privada dos internautas? Penso que exemplos como os que acontecem nas redes sociais online apontam para o apogeu da publicização do privado. Mas há ainda, entre vários outras, a discussão que envolve o grande número de dispositivos de vigilância espalhados pelas cidades mundo afora, pois, ao mesmo tempo que as pessoas reclamam dessa intrusão em suas intimidades – seja nas ruas ou mesmo nos ambientes privados -, clamam por mais segurança. Nesse sentido, público e privado se interpenetram e já não é tão fácil delimitar onde começa um e termina outro. 


IHU On-Line - Quem sabe mais sobre a vida de um cidadão consumidor? Os governos ou as corporações privadas?

Paulo César Castro - Diferentes governos, em maior ou menor grau, historicamente estiveram sempre preocupados em monitorar seus cidadãos. Sob as mais variadas justificativas, instituíram sistemas de controle, como o panóptico  de Jeremy Bentham , cujo conceito de vigilância serviu para o filósofo francês Michel Foucault  apontar a formação da sociedade disciplinar. Aliás, a obra de George Orwell , 1984, pode também ser invocada para exemplificar essa busca de controle total sobre os cidadãos. E da literatura é possível passar para a concretização do personagem Big Brother, do livro de Orwell, com as ações do governo americano a partir das revelações de Snowden e Assange. Não por acaso a propaganda do Estado retratado no livro era “Big Brother is watching you”. No caso das empresas, imergidas no que o sociólogo espanhol Manuel Castells  chamou de capitalismo informacional, a informação tem sido um de seus insumos mais preciosos. Sendo assim, tem se tornado vital para os negócios das empresas os conhecimentos e estratégias sobre seus públicos/clientes/usuários/consumidores. E os algoritmos, tanto para governos quanto para empresas, cumprem um papel fundamental na apuração dos dados seja de cidadãos e/ou de clientes. Não por acaso o vice-presidente sênior da Gartner Research, Peter Sondergaard, defende que produtos e serviços serão definidos pela sofisticação de seus algoritmos. Para o que ele denomina como uma economia algorítmica, “as organizações ou corporações serão avaliadas, não apenas por seu Big Data, mas pelo algoritmo que transforma aqueles dados em ações e naquilo que, por fim, impacta os clientes”. Portanto, acredito que ora por objetivos bem diferentes, ora por metas aproximadas, tanto os governos (luta contra o terrorismo, disputa com outros Estados etc.) quanto as corporações privadas (marketing, publicidade, venda, concorrência) estão buscando saber cada vez mais sobre quem interage com as tecnologias digitais. O diferencial é que, com os algoritmos, ambos “veem” sem serem vistos, agem sem serem percebidos, dando continuidade à lógica do panóptico de Bentham.


IHU On-Line - Até onde vai o grau de conhecimento que uma empresa pode ter sobre a vida e os hábitos de um usuário de internet?

Paulo César Castro - Toda e qualquer pequena ação dos usuários em suas interações com as tecnologias digitais têm resultado no recolhimento de informações, na forma de cookies e de outros recursos. Gigantescos bancos de dados (Big Data) com registros dessas ações têm sido gerados, a serviço das estratégias de marketing que potencializam a publicidade e, consequentemente, as vendas das empresas. Diante dessa invasiva lógica comercial das empresas, não é possível dizer com clareza qual o limite do recolhimento das informações dos usuários. A leitura atenta dos Termos de Compromissos dos serviços que “assinamos” na internet mostra que, no geral, há uma política de privacidade e de uso de nossos dados respeitosamente ética. Entretanto, nada nos garante que essas políticas estão verdadeiramente sendo cumpridas ao pé da letra. E, como no geral, não há uma fiscalização eficiente da ação das empresas nessa área, seja pelo Estado, por organizações civis ou mesmo pelos usuários, é muito importante a discussão pública dessas fronteiras. Mas acredito que o limite para acesso às várias informações do usuário, principalmente aquelas das quais ele nem se dá conta, deve ser dado pelo próprio usuário. O problema se estabelece quando as empresas argumentam que precisam dos dados dos usuários para poder oferecer serviços gratuitos e melhores. Mesmo assim, balizas devem ser claras para evitar as invasões desconhecidas. 


IHU On-Line - Há como se insurgir contra o alcance dos algoritmos que alimentam as corporações com dados sobre as pessoas?

Paulo César Castro - Independentemente das técnicas possíveis para apagar os rastros deixados em nossas navegações, com o uso de criptografias, por exemplo, acho que essa insurgência só será eficaz quando os usuários tiverem uma maior consciência sobre o que representa a ação invisível dos algoritmos e de outras técnicas de monitoramento, seja nos seus aspectos econômicos, sociais e políticos. A oferta de serviços online gratuitos por parte de empresas como Google e Facebook parece levar as pessoas ao raciocínio de que o bônus vale o ônus. Ou muitas vezes respondem dizendo que não se importam se seus dados estão sendo recolhidos, pois “não têm nada a esconder”. Ou ainda, aliás, quando se colocam a favor da limitação das liberdades individuais na internet por conta da luta contra o terrorismo. Se o uso das tecnologias digitais já está inexoravelmente associado ao nosso dia a dia, inclusive como fator de inclusão social, não temos outra opção a não ser debater publicamente, nas redes sociais, nas ruas ou nos espaços formais da atuação política, o papel dos algoritmos. Uma massa crítica sobre essa questão pode nos colocar na condição de cidadãos ativos no processo de definição do que deve ser a internet e as tecnologias que fazem uso dela.


IHU On-Line - Uma vida sem rastros é possível, atualmente, apenas em filmes?

Paulo César Castro - Em dezembro de 2012, quando a jornalista Laura Poitras foi contactada por Edward Snowden, que queria denunciar as ações de espionagem da Agência de Segurança Nacional (NSA) americana contra cidadãos e empresas de dentro e fora do país, ele enviou a ela a seguinte mensagem: “Espero que entenda que entrar em contato com você é extremamente perigoso. Por enquanto, saiba que cada fronteira que cruzar, cada compra que fizer, cada ligação que discar, cada torre de comunicação que avistar, amigo que mantiver, lugar que visitar e assunto que digitar estará nas mãos de um sistema cujo alcance é ilimitado, mas seus guardiões não são”. O relato do Citizenfour, pseudônimo do então funcionário sênior da área de inteligência dos Estados Unidos, demonstra o alcance panopticista da vigilância do aparato estatal, a ponto de pedir a ela que, mesmo com o celular desligado, retirasse a bateria do aparelho e a colocasse no congelador. Por isso, acredito que, se houver uma vida digital sem rastros, ela se dá apenas no campo da ficção.


IHU On-Line - Falando em filmes, quais obras representam bem estes tempos de muita vigilância e pouca privacidade?

Paulo César Castro - O que imediatamente me vem à cabeça é Minority Report . Os precogs do filme, paranormais que antecipam crimes que estão por acontecer, levando à prisão do “criminoso”, podem muito bem servir de metáfora para os algoritmos. Mas a ficção se aproxima da realidade com a Predpol (The Predictive Policing Company), cuja missão é providenciar uma plataforma de prevenção de crimes de modo a manter as comunidades seguras. “Nossa tecnologia segura, baseada na tecnologia em nuvem, coloca os policiais na hora e nos locais certos para dar a eles a melhor chance de prevenir os crimes”, diz a companhia em seu site. Baseado num algoritmo construído por matemáticos e cientistas comportamentais e baseado num modelo de previsão de terremotos, o software da empresa é usado pelos Departamentos de Polícia de Los Angeles, Atlanta, Modesto e outras cidades. Outro filme bastante alusivo à situação de vigilância a que estamos submetidos, inclusive em função dos dispositivos digitais que usamos ou mesmo dos quais nos cercam, é Controle Absoluto . Todos os movimentos dos dois personagens principais são rastreados e controlados à distância através de câmeras de segurança espalhadas por onde eles passam, como se eles estivessem sob a vigilância de um Big Brother. Há ainda o filme 1984 , adaptação do livro do Orwell, para quem não pretender encarar o impresso.


IHU On-Line - O usuário comum de internet nem desconfia o quanto é vigiado, tornando-se vulnerável. Já não está na hora de se pensar em uma espécie de alfabetização do cidadão para uma existência em tempos de profunda digitalização da sociedade?

Paulo César Castro - Acredito, sim, que deve ser parte do aprendizado de qualquer pessoa, sobre a navegação em sites ou o uso de quaisquer equipamentos digitais, o conhecimento a respeito do monitoramento a que ela pode estar sendo submetida. Até para saber se efetivamente não se importa ou se vai tomar alguma medida para evita-la ou minorá-la. Mas reitero a importância também de um debate mais aberto sobre o papel dos algoritmos como mecanismos de monitoramento e, de modo mais requintado, sobre como podem estabelecer verdadeiros padrões de importância, gosto, qualidade etc.


IHU On-Line - A coleta de informações por meio das mais diversas ferramentas digitais não deveria ser autorizada pelos usuários? Trata-se de uma questão legal, ética ou ambas?

Paulo César Castro - Quando consideramos, por exemplo, que o Yahoo! captura uma média de 2.500 rotinas/operações de cada um de seus usuários (eles são mais de 1 milhão que o acessam regularmente) por mês, certamente cada usuário deveria ter o direito, explicitamente informado, de escolher pela coleta ou não de seus dados. É uma questão, a meu ver, que envolve aspectos legais e éticos. Acredito que, apesar do Marco Civil da Internet  e mesmo da Lei do Esquecimento  (esta já implementada na Europa), as empresas e mesmos governos não seguem tão à risca esses preceitos. Ao mesmo tempo que deveríamos poder dizer se queremos ou não ser monitorados, também temos o direito de saber o que será feito efetivamente com os dados recolhidos a nosso respeito. Toda e qualquer pesquisa realizada pelas empresas deveria ter nosso consentimento ou ser de nosso conhecimento.


IHU On-Line - Do ponto de vista da privacidade, o futuro é preocupante ou não há necessidade para tanto pessimismo?

Paulo César Castro - Não quero ser um pessimista ou uma versão atual dos apocalípticos, como apontados por Umberto Eco , mas as ações dos serviços de segurança dos Estados Unidos, como já denunciadas, pode ser um indício para preocupações. E pelas consequências que Julian Assange (refugiado na embaixada do Equador em Londres desde 2012) e Edward Snowden (refugiado na Rússia) vêm sofrendo após seus atos, parece que qualquer um de nós que denunciar o caráter totalitário dos governos através dessa forma moderna de vigilância vai pagar um preço bem alto. No último livro que editei a partir de evento do CISECO, Vigiar a vigilância: uma questão de saberes?, lembrei que nem todos os “vigilantes” aceitam ser vigiados. Mesmo assim, não deixo de reconhecer o potencial emancipatório dessas mesmas tecnologias digitais, que podem ser usadas também como recurso de contraposição à vigilância. Se Assange e Snowden puderem se insurgir contra o panopticismo do estado, os cidadãos “comuns” têm tido, também na internet, variadas ferramentas com as quais podem realizar suas próprias denúncias, de menor ou maior grau. Levar os algoritmos e suas lógicas para o debate na praça pública das ágoras digitais ou dos espaços analógicos e ter sobre eles uma olhar crítico não significa demonizar a internet. Representa a realização do saudável exercício da democracia em um espaço que vem se configurando como tão importante e vital para nossa existência.

Últimas edições

  • Edição 544

    Revolução 4.0. Novas fronteiras para a vida e a educação

    Ver edição
  • Edição 543

    Ontologias Anarquistas. Um pensamento para além do cânone

    Ver edição
  • Edição 542

    Vilém Flusser. A possibilidade de novos humanismos

    Ver edição