Pensando em dar “tchau” (talvez, só para as redes sociais. Talvez, não…)

Sempre fui contra “pregar para convertidos”. Tirando o maneirismo do aforismo, eu acredito que passamos tempo demais “falando” com telas e algoritmos. E isso está ferrando (ainda é horário nobre) com todos nós.

Aliás, você aí! Sabe explicar o que é o tal “algoritmo” que tanta gente fala? Veja bem: Não é “algarismo”, hein?… “Algarismo” são os números, arábicos (1, 2, 3) romanos (I, II, III) e zaz… Te perguntei de “algoritmo“.

Algoritmo é termo da matemática, e você encontrará referências para ele já na Pérsia Antiga, nove séculos depois de Cristo. O nome mais comum que surge é do matemático Mohamed Ben Musa. Depois, o termo ressurge nos primórdios dos computadores mecânicos, com gente como Ada Lovelace (séc. XIX) utilizando-o e, mais tarde, Alan Turing, “o pai da ‘moderna computação'” (que, aos olhos do progresso atual, de “moderna” não tem mais nada). Rigorosamente, “algoritmo” quer dizer “conjunto de operações matemáticas finitas, desenhadas a fim de resolver um dado problema, eficientemente”. Ou seja: é uma “receita de bolo” para lidar com algum desafio conhecido e bem mapeado (ao menos razoavelmente), da forma mais inteligente quanto o possível.

Há diversos tipos de algoritmo e várias notações/representações, e eu não vou percorrer esse caminho com você, hoje, mas vamos a exemplos, pois eles sempre ajudam:

Queria dar os créditos, mas a página que traduziu o fluxograma (nome de um tipo de diagrama que pode representar um algoritmo) sequer está no ar. Obrigado Helldane. Esteja onde estiver…

Pois bem, nosso fluxograma, acima, representa o algoritmo que foi desenhado para lidar com algo que estava funcionando e parou. Você começa no topo (a bagaça funciona?) e vai respondendo “sim” ou “não”, até chegar em alguma “caixinha” (de verdade, seria um processo) para o qual não há nenhuma saída nova, representando o fim da rotina prescrita pelo algoritmo apresentado. É só um desenho engraçadinho, no entanto, poderíamos facilmente codificar um programa de computador que implementasse essa lógica descrita e tomasse decisões através das aproximações sucessivas que ela pressupõe.

Isso é o algoritmo: não o desenho (o desenho só representa graficamente o algoritmo), mas sim o conjunto de passos lógicos descritos previamente para lidar com o(s) problema(s) que foi(ram) mapeado(s) e responder às partes que compõem esse(s) problema(s), uma a uma, da maneira mais racional e eficiente possível. O foco no “eficiente” é bem importante para o algoritmo. Se no seu smartphone, repleto de cores de processamento e 4 ou 8 GiB de RAM, essa eficiência é desejável e faz falta, em sistemas primordiais de computação a falta de eficiência era a diferença entre conseguir executar e não executar o programa (é como nós, os antigos, chamávamos os “apps” = programas [o português tem palavras, sabia? Você pode deixar o inglês para quando ele for necessário…]).

Tá… E daí? E “daí” que quando você fica falando (ou ouve falar) “o algoritmo isso”, “o algoritmo aquilo”, ou “treinei/ensinei meu algoritmo pra X”, é disso que estamos falando: um programa que foi desenhado, com passos lógicos e eficientemente agrupados para lidar com o problema ao qual foram desenhados como possível resposta.

E qual é o problema que os algoritmos de redes sociais precisam resolver? Acima de qualquer outro, o problema (risco) de você querer parar de usar. Esse é o principal. Rede social só dá dinheiro se a galera “engaja”. Pode engajar no amor ou no ódio, desde que engaje. O que se vende para as agências de publicidade é basicamente: alcance (quanta gente a rede abarca, e isso tem tudo a ver com engajamento) e conhecimento populacional (o quão bem os gestores das redes sociais conhecem seus usuários [não necessariamente de forma individualizada, pois nem precisam], seus hábitos, gostos e preferências. Sobre tudo: da pizza ao político preferido e o odiado.).

Em 2022, eu li o livro do Jaron Lanier, “Ten arguments for deleting your social media accounts right now” como parte da pesquisa que fiz para o trabalho de conclusão de curso em Direito (acredito que a versão em português tem o mesmo nome, traduzido, ou seja “dez argumentos para você apagar suas redes sociais, agora” – ou coisa do tipo). Li em inglês para evitar problemas com tradução de alguma ideia que o autor poderia querer passar e a tradução “matou”. É raro mas acontece muito e eu, inclusive, achei uma dessas na amostra do livro em BR…

Jaron elenca os 10 argumentos em forma de capítulos:

  1. Você está perdendo seu livre arbítrio
  2. Sair das redes sociais é o jeito mais acertado de lidar com a insanidade dos nossos tempos
  3. As redes sociais estão te tornando um cuzão (palavras dele, não minhas)
  4. As redes sociais estão minando o conceito de “verdade”
  5. As redes sociais estão fazendo o que você fala ser insignificante
  6. As redes sociais estão destruindo sua capacidade de ter empatia
  7. As redes sociais estão te fazendo infeliz
  8. As redes sociais não querem que você tenha dignidade econômica
  9. As redes sociais estão tornando a política impossível
  10. As redes sociais odeiam a sua alma (wow?!)

Agora… Bem… Só pelos títulos dos capítulos, acho que você já percebeu duas coisas: 1) o estilo de escrita do Jaron é bem-humorado. 2) Ele odeia as redes sociais – por bons motivos, acho.

Eu, como você já sabe, sou contra falácias como meios de sustentar um debate. Seria falacioso falar que a mãe dele tem chulé (ad hominem) e seria falacioso discorrer sobre as credenciais do homi e como são elevadas (falácia de apelo à autoridade). Porém, ao mesmo tempo, o mundo real precisa de alguma amostra de quem porta a mensagem para, pelo menos, saber se a pessoa que fala entende do que fala. O que mais tem nesse mundo moderno de meu Deus é gente falando do que não sabe.

Jaron é um cientista da computação, com formação sólida na área de realidade virtual; trabalhou para diversas empresas, incluindo a Microsoft, e esteve em diversas universidades (Berkeley, São Francisco, Columbia). Em resumo, não é como se ele falasse de algo que “ouviu alguém dizer”, tampouco é como se isso fosse a mera impressão pessoal alçada a fato, sobre uma área (a internet e as redes) que ele não sabe nem se é de comer ou de passar no cabelo.

Eu não pretendo, seja por extensão, seja por respeito ao direito autoral, entrar em detalhes de cada um dos itens da lista dele. Mas a real é que só de bater o olho nos títulos, você meio que sabe do que ele está falando. Se quer realmente entender o que ele tem a dizer para cada item, compre o livro. Dá uma moral pro trabalho do cara. Tá baratinho e tem a versão online se quiser ler rápido (é bem curto, menos de 200 páginas).

Alguns são autoexplicativos, mas vamos passar por todos, a 30 mil pés de altitude:

Você está perdendo seu livre arbítrio porque o livre arbítrio não é exatamente amigo do vício, e redes sociais são desenhadas para viciar (lembra do primeiro problema que o algoritmo tenta resolver? Pois é…). Empresas que mantêm redes sociais gastam tanto dinheiro com desenvolvedores quanto gastam com psicólogos, publicitários e todo tipo de profissional que os ajude a prender a sua atenção na rede social deles. Alguns fazem isso de forma porca, outros de forma espetacularmente cruel, vilanesca e, principalmente, eficaz.

Sair das redes sociais é o jeito mais acertado de lidar com a insanidade dos nossos tempos porque a forma como as redes foram desenhadas se aproveita dos nossos medos, traumas e desejos para nos prender lá. Isso é quase que um desdobramento do primeiro apontamento. Ou seja: para te prender na rede social e torná-la um sucesso para seus clientes (dica: você não é o cliente da rede social. Você é o produto…), eles vão te incentivar a compartilhar sua vida no feed (assim, eles conhecem você enquanto produto); vão te empurrar conteúdo que você não quer (quantas vezes você pulou o anúncio, hoje? Já desistiu e comprou o serviço premium? Até quando eles mantêm o premium sem anúncios [e criam o premium++, este sim, sem anúncios {por um tempo…}]? Já clicou no jogo que é uma enganação e não faz nada do que é mostrado na publicidade?); vão te fazer ter medo, ou se revoltar com algo que incomoda os donos da rede, o cliente deles, ou simplesmente que precisa ser repudiado para gerar “engajamento”; e vão dar um jeito de vender toda essa atrocidade e fazer dinheiro com a sua vida e as consequências de tudo isso, ora descrito. Qual a melhor forma de não passar por essa manipulação que te usa para ganhar rios de dinheiro? Não fazer parte dela.

As redes sociais estão te tornando um cuzão porque os pontos 1 e 2 da lista estão funcionando muito bem. Ou seja: a rede social é viciante e te mantém nela o máximo de tempo possível. Logo, o algoritmo resolveu o primeiro problema. O segundo problema é que ela precisa dar lucro, então o algoritmo faz com que você engaje, conte quem você é e, em troca, ele te afaga ao conectar você com gente que pensa como você e premia atitudes, conteúdos, […] engajamentos que gerem o máximo de alcance e conexão com outros usuários do seu perfil. A escolha, aqui, é amoral (e não necessariamente imoral), ou seja: o objetivo é ter pessoas conectando com o conteúdo, reagindo positiva ou negativamente, contando suas vidas, marcando posições, e alimentando tanto o quanto a rede social sabe do seu público, como ficando mais tempo no app da rede, vendo mais publicidade, pulando mais vídeo, etc. etc. etc…

As redes sociais estão minando o conceito de “verdade” e olha: isso aqui é até uma perda de tempo de demonstrar. Todo mundo sabe que estão. O bolsonarista sabe que está. O ptista sabe que está. O terraplanista sabe que está. O astrofísico sabe que está. O antivaxxer sabe que está. E o microbiologista também sabe que está. Oras, se todo mundo tem certeza que a verdade não está nas redes sociais, se tudo que sai nas notícias, nos canais, em todo lugar é mentira, então É ÓBVIO que a verdade está sendo minada. A única pequena dificuldade é descobrir quem tem razão e em que caso.
Contudo, redes sociais têm perto de zero compromisso com conceitos complexos como “verdade”, especialmente se isso passar à frente dos dois grandes objetivos de qualquer rede social: engajamento e lucro. Quando você pega um canal de YouTube onde um cara sem qualquer qualificação acadêmica rebate cientistas da NASA, falando sobre mudança climática, você tem 50% de chance de perceber que a verdade está sendo minada pelas redes (exceto, claro, se você for do time que acha que mudança climática não existe… Aí, são os canais “oficiais” [também nas redes sociais] a espalhar mentiras, na sua opinião). E, espia: falando em YouTube, se você já assistiu a algum dos seus “influencers” falando em como a rede se comporta e o que ela incentiva o produtor de conteúdo a fazer pra tirar algum $$$ dali, você sabe que o compromisso é com tudo, menos com a verdade: um cara faz 10 vídeos por semana e fica no topo da página inicial. O outro faz 1 vídeo por mês e desaparece do radar. Em momento algum a qualidade dos vídeos entrou em consideração para dizer quem tem destaque (e, esperadamente, mais audiência [= mais dinheiro]) e quem não.

As redes sociais estão fazendo o que você fala ser insignificante porque como 99% das pessoas que andam nas redes já pensaram em ganhar dinheiro com elas (eu sei que já pensei), “4 minutos se passaram e ninguém viu, o podcast que nasceu em algum lugar do Brasil”. E se “pluralidade de ideias” ou “vasta oferta de qualidade e quantidade de conteúdo” não são automaticamente sinônimos de “lixo”, o “lixo” é exponencialmente criado com essa proliferação “sem um predador” para pôr ordem no ecossistema.
Eu ou você podemos, agora mesmo, abrir um canal no YouTube, uma live no Insta, ou seja lá qual o nome no TikTok e começar a falar. E mostrar gráficos e compartilhar vídeos e imagens…. E o quanto do que vamos veicular é verdade ou não, faz sentido ou não, está sendo analisado dentro do contexto correto ou não… Bem, a única pessoa capaz de decidir tudo isso é quem assiste. Todavia, o que acontece se quem assiste não sabe separar o joio do trigo? Ferrou (de novo: horário nobre…) não é mesmo? E se você for um microbiologista advogando pelas vacinas, e eu for um antivaxxer rebatendo tudo que você fala? E se você for menos carismático do que eu, e eu for mais vendedor de automóveis que você? O que importa o que você fala? E se todos falam, e se a cada esquina tem um mesa-cast sendo gravado com convidados dos mais ilustres aos mais ignóbeis… O que importa o que qualquer um tem a dizer, sobre qualquer coisa?

As redes sociais estão destruindo sua capacidade de ter empatia. Eu preciso mesmo demonstrar esse? É simples até: as redes sociais “brincam” com nossos instintos primais e, para nos manter horas “rolando a tela do celular”, fazem com que criemos nossas “tribos”. Todo esse desenho faz com que o bullying te conecte com quem pensa como você e massacre o outro lado. E não importa se você é (ou acha que é) de Esquerda ou Direita. Você faz bullying com o outro lado. Eu sei que faz. Eu já vi gente dos n lados fazendo, eu já sofri e eu já fiz (em algum nível).

As redes sociais estão te fazendo infeliz. Olha, se você leu até aqui e não ficou infeliz, só de ler… Sei lá o que te move. Eu estou infeliz de escrever, e olha que eu escolhi escrever sobre isso. Vou contar uma anedota só para dar a dimensão de como a coisa toda é imprevisível. Tenho um grande amigo que ficou extremamente mal com a vitória de Trump. Óbvio, nenhuma pessoa que quer um futuro melhor para TODOS (e não só para os americanos brancos) ficou feliz com isso. Porém, ele ficou especialmente mal. Um dos N fatores a contribuir com a profunda depressão é de que ele estava convicto, apostando todas as fichas e até assumindo responsabilidades desnecessárias pela aposta na vitória de Kamala, falas e posturas que ele não deveria ter se estivesse racionalmente analisando a situação.
Eu o avisei um sem-número de vezes que todas as pesquisas mais sóbrias e sólidas (se você analisa política há tempos, você acaba aprendendo quem faz o trabalho e quem é do oba-oba) mostravam um quadro MUITO difícil para a Kamala, e ele rebatia dizendo que confiava no que ele estava lendo e ouvindo. Agora, eu sei que esse cara é MUITO inteligente, e eu sei que ele não estava interpretando errado o que recebia. O problema – na minha opinião – foi mais simples: ele foi enganado “pela rede do bem” que ele formou ao seu redor. Essa, na verdade, é outra mentira da rede social: a que você pode fazer uma curadoria do que consome e recebe, de tal forma a se manter informado e, ao mesmo tempo, imune ao esgoto que corre nela. Aqui está o dilema: é ou um, ou outro. Ou você é feliz (e enganado), ou é triste (e, talvez, informado – depende muito, viu?). Seja como for, as redes sociais até “quando te deixam no poder” (dica: elas nunca deixam, mesmo) te fazem infeliz, cedo ou tarde.

As redes sociais não querem que você tenha dignidade econômica. Este ponto é bem complexo, talvez o mais complexo do livro. Além de complexo ele é controverso. Só lendo pra saber a zona cinza que o autor percorre. Fala sobre um modelo de negócios que nasce de um valor bem-intencionado, mas que fatalmente gera o monstro que agora tememos (é o argumento dele). Ele discute como a ideia de software gratuito (free as in beer) e de manter a internet “de graça” acaba nos levando para um mundo em que as empresas apenas pensam em lucratividade por publicidade (ad-revenue) e como isso molda todo o algoritmo e as características (todas as narradas, e todas as demais) de uma rede social moderna. A dignidade econômica removida seria, então, o fato de que como você não paga por nada (tirando a conexão e o aparelho), as empresas escolhem o que fazem com você, seus dados, sua vida, e tudo o mais. Você não paga, logo você não é o cliente, mas o produto deles. E o dono do produto faz o que quer com o produto.

As redes sociais estão tornando a política impossível. De novo: chega a ser idiota tentar explicar o que todo mundo sabe. Então, ao invés de explicar o que todos já sabem, eu vou dizer o que nem todo mundo tem em mente: nós já tentamos o caminho sem a política. Nós temos séculos, senão milênios, de História humana onde a política ou era um apêndice enganoso, ou estava apenas engatinhando na organização do espaço social de cada nação. Seja como for, nós tentamos o mundo onde os fortes governam, onde os deuses governam, onde as tribos se organizam (e guerreiam com as demais), onde os militares mandam… E… Todos esses modelos foram uma grande bosta. Só pode elogiar quem vislumbra fazer parte de um dos sempre exclusivos grupos de poder. Claro: podemos fazer um longo debate de como a vida política atual (especialmente nas Américas) se assemelha a uma casta separada e sobre como essa vida política não habilita a verdadeira democracia, mas só a demagogia, o nepotismo e a corrupção. O meu ponto de partida é: o sistema atual é um sistema falho, porém perfectível. Ou seja: a política tem odiosas características que, com uma sociedade civil organizada, podem ser combatidas. A boa e velha Ficha Limpa tá aí pra dar ao menos um exemplo. Tem vários outros e não vou percorrer eles todos, mas me chama e a gente fala do que melhorou desde que a política (e não a violência, e não Deus, e não os militares[…]) passou a dar vida ao Estado nacional. E tudo isso está em risco, e as redes sociais são incríveis vetores de ataque e grandes catalisadores do ódio e da irracionalidade na política. Elas não querem sociedade civil organizada. Isso remove o poder que elas precisam ter para te engajar e (escravizar) fidelizar.

As redes sociais odeiam a sua alma, e o autor fecha o livro assim porque a mensagem dele é clara em sentido: redes sociais são o oposto de “livre expressão”, “individualidade” (não confundir com “individualismo”, o que é ruim), sociedade harmônica e pacificação política. Tudo isso é o contrário do que redes sociais buscam, não porque elas sejam VILANESCAS na origem, mas porque o modelo de negócio delas depende de “dedo no cu e gritaria” (acabou o horário nobre) e eles não podem fomentar um mundo de “verdade” e “verificação de fatos”, porque… Por que? Você já assistiu ao Big Brother? Eu não. Mas eu sei (porque tenho amigos e orelhas) que as pessoas assistem aquele negócio pra ver aquele mini-mundo pegar fogo.
Num espaço onde a verdade é a regra e os fatos são rigorosamente checados, nada realmente pega fogo. Pode ser super empolgante, mas quem entendeu, entendeu e quem não entendeu vai seguir tentando entender, e nada mais. Não tem conflito, não tem dedo em riste, não dá engajamento. Por isso, e não por serem a cria do Capeta, redes sociais não podem incentivar um mundo melhor para os humanos. Porque se o engajamento cair, o produto “rede social” perde o valor. E como elas ganham dinheiro conhecendo bem o produto delas (você), isso não pode acontecer. E a melhor forma de engajar – descobriram os donos das redes – é na confusão e no conflito.

O autor ainda lembra que ele escolheu 10 pontos “porque sim”. Ele poderia ter falado, só por exemplo, da distorção da realidade que redes sociais geram, da ansiedade, dos gatilhos de consumo, de alimentação, das obsessões, dos conflitos familiares, amorosos… Enfim… Ele escolheu o que era mais “neutro” em termos de concordância ou não, justamente porque são pontos que envolvem menos as discussões mais sentimentais e, muitas vezes, irracionais. A mensagem final dele é clara: Se o leitor encerrará suas contas ou não, é uma escolha absolutamente pessoal. Porém, se o leitor mantiver suas redes sociais, que o faça sabendo o que as redes fazem com ele(a) a fim de ganhar dinheiro e obter poder (o poder de “informar” [com o que querem], o poder de manobrar seus usuários, o poder de se defender de ataques de concorrentes, de dobrar o Estado, de fugir da Lei…).

E o que eu vou fazer? Eu não sei. Na verdade, eu não vim aqui escrever sobre um suicídio virtual em que encerro todas as minhas contas e sumo da Internet for good (olha o inglês desnecessário aí!) com esta nota longa de adeus. Eu nunca poderia, por exemplo, fechar o LinkedIn e perder um poderoso meio de arranjar um novo emprego, se esse dia chegar (nota para mim mesmo: ele vai chegar…). Eu também não me vejo sem os canais de YouTube que uso tanto para conhecimento (Petit Journal, Meio, Manual do Mundo, Aviões e Músicas, FDUSP, IREE TV, XKCD What if, Adam Something, NetworkChuck, OverSimplified e TANTOS OUTROS), quanto para me divertir (Cauê Moura, Serial Trippers, Planeta Aves, Cinema Therapy, Aprofundo, Voice Makers e TANTOS OUTROS)…

Aliás, se eu li esse livro em 2022, por que estou falando em “dar tchau” em 2025? Quanto tempo para refletir sobre um livro com menos de 200 páginas, não é?

Sei lá… Eu já disse isso antes, mas as redes sociais não me ajudam em nada. Mesmo o LinkedIn, que eu disse que preservaria de qualquer forma, está há 12 anos sem fazer nada por mim. Qualquer conhecimento que circule por lá é menos do que adquiro com livros oficiais das áreas que estudo, e as conexões só esquentam de tempos em tempos, quando alguém está buscando recolocação, por exemplo. Do mais, só quem tem “tino” para a auto-propaganda contínua abre o LinkedIn de segunda à sexta, para manter o “footprint“. Do resto, é uma rede sempre morna. Eu também nem sei o que eu faria e como me sentira se fosse uma rede “quente” (como o TikTok, por exemplo). Só constatei um fato.

Eu só acho que a minha presença ali faz as relações humanas que tenho serem sempre mais frias. A pessoa pode me adicionar como contato no WhatsApp e até ter meu telefone celular pessoal (que é diferente) e, ainda assim, nossas interações se resumirão a um video compartilhado, um joia, um coração e é isso. Por que eu estou ali? Por que meus dados estão ali? Por que meu celular tem um app que sabe Allah o que coleta e captura do meu dia a dia, independentemente do meu consentimento?

Eu poderia, alternativamente, simplesmente desinstalar o aplicativo e ficar com a conta aberta, não? Aí surge um problema humano: as pessoas veem minha conta lá e imaginam que eu estou por ali, que vou ver uma chamada, um chat, algo do tipo quando, de verdade, eu não vou ver nada disso ou verei meses depois. Aconteceu, inclusive no LinkedIn. Se elas souberem que não estou lá, por outro lado, a história muda. Se precisarem falar comigo, terão que usar o WhatsApp ou o bom e velho discador de telefone.

Além do mais, o que fui procurar na rede social, simplesmente não está lá. Não é a praça pública, a Ágora Ateniense, onde ideias e problemas são debatidos e o poder coletivo é utilizado em prol do maior número de pessoas. Não. É exatamente o oposto disso. São vitrines de sonhos impossíveis e meias-verdades, onde a mercadoria circula achando que é o usuário (ou, mais ilusório ainda, o cliente), mas ela é só isso mesmo: mercadoria.

Sair da rede social não me fará melhor do que nada, nem ninguém. Eu não ficarei mais inteligente, mais correto, mais digno[…]. Vai ter gente ganhando milhões com rede social enquanto não estou lá. Sempre teve e vai continuar tendo. Eu não sou um desses. Não tenho o tino, nem o talento, nem o tempo, nem o estômago. Fechar tudo também é utopia. Vou fechar o e-mail pessoal, ligado ao YouTube? Vou desaparecer da Internet, onde o governo usa meu e-mail para me permitir agendar a emissão do passaporte, do RG, pagar IPTU, ajustar o IRPF? E o WhatsApp? Ele também é uma rede social. Vou encerrar?

Não, não dá pra radicalizar sem virar indigente. E eu ainda não estou nesse grau da loucura (mas, quem sabe…). Contudo, outro dia me peguei impaciente, usando o celular no Instagram, rolando a lista de fotos de qualquer merda que já não me lembro… Eu rolava aquele feed infinito como se eu fosse achar o fim. E quanto mais eu descia, mais irritado eu ficava, porque pensava “okay, eu já vi o suficiente. Chega.”, só que continuava descendo. E tenho que dizer que, como alguém da tecnologia, meu uso de redes sociais e entretenimento online é bastante reduzido. Estou longe de ser “power user“, “heavy consumer” ou qualquer outro termo desnecessário em inglês para redes sociais e derivados.

Mas esta é a conclusão que eu chego: eu estava entediado, devendo sair do sofá pra quebrar o tédio com alguma atividade (tipo, caminhar. Tipo, ler um livro. Tipo, tocar violão…). Ao invés disso, meu cérebro disse “e se você pesquisar aquele negócio que você queria no Instagram, para ver umas ideias?”. E eu devo ter perdido uns 40 minutos ali, olhando para um feed infinito e que não me acrescentou nada. E ficando mais irritado ao invés de quebrar o ciclo de tédio, ansiedade, marasmo, sei lá o que mais havia naquele drink dos infernos que eu preparei (com ajuda da rede, e meu consentimento, e meus dados) e bebi.

Não me acrescenta nada. Não me conecta com gente que quer discutir coisas novas e resolver problemas velhos, não me aproxima das pessoas queridas, me trata como mercadoria, e ainda faz eu perder tempo. Tudo isso me fez pensar em dar tchau para as redes.

E, bem… Este blog faz parte de uma rede social (WordPress). E ele também não tem me conectado a quase ninguém (afirmo isso com base nas estatísticas de cada novo post). Pra piorar, aqui, eu sou premium, então, estou pagando por esse espaço que não me entrega nada e ainda tira de mim alguma coisa (sabe-se lá o que, além da anualidade). Preciso pensar no futuro das minhas redes, este blog incluso. Mas, ao menos até o fim do período de assinatura (7 de junho), ele fica aqui.

Se eu optar por encerrar o blog, obrigado por todo o tempo que você, nobre leitor(a) colocou nas linhas mal-escritas desse escritor frustrado e sem talento. Espero que mesmo que tenha sido cansativo, tantas e tantas vezes, ainda assim, eu tenha somado alguma coisa BOA pra você (tem que ser boa; de ruim, basta o que as redes trazem).

Como não terminar com uma nerdice, não é?

“A IA vai matar a todos nós!” vs. “A IA vai salvar a todos nós!” … e outras bobagens…

A imagem que ilustra o post de hoje foi gerada pela Dall-E, a inteligência artificial da OpenAI que gera imagens a partir de descrições textuais. Seu irmão mais badalado – por ora – é o ChatGPT. E você pode ter um gostinho de como é falar com ele através deste link: Bing.com (no topo, clique em “chat”). Tire suas próprias conclusões.

Este claramente é um post que poderia ser dois. Ou três. Mas, como eu não ganho nada com mais ou menos views, mais ou menos cliques, aqui está o conteúdo inteiro, de uma vez. Leia com a paciência que tiver e obrigado, desde já, por tentar chegar até o fim.

Aviso (disclaimer): preciso avisar ao leitor e à leitora que eu sou empregado da Microsoft. Sim, aquela do Windows. Sim, também aquela do ChatGPT (graças à parceria com a OpenAI). Todas as opiniões ora redigidas são de minha autoria e somente de minha autoria. Meus gerentes, diretores e demais superiores hierárquicos JAMAIS solicitaram ou sequer foram consultados sobre o conteúdo que aqui se veicula, tampouco têm qualquer interferência (contributiva ou restritiva) nas palavras e ideias que enfileiro daqui em diante.
Finalmente, aos que são da área técnica: simplificações serão feitas em prol da clareza e do acesso ao tema debatido. A ideia por aqui é escrever “Sobre Tudo e Sobre Todos”, mas sempre escrevendo “para todos”.

O autor do post, Rodrigo

Ahhh… Relaxante como correr num campo minado… Essa é a tarefa de falar a sério de um tema controverso, polêmico, que faz “buzz”, que é “hype” (os antigos [ = gente que ainda fala português no Brasil] diriam: “está na moda”), em que sua empregadora é uma das principais expoentes e patrocinadoras das novidades e avanços; tudo isso, tentando manter a isenção e, ao mesmo tempo, o emprego… Não vai ser fácil, mas eu acredito no lema que vai insculpido na bandeira da minha nação: “mais sorte do que juízo” … Vamos começar pelo básico.

Tudo começou há um tempo atrás, na ilha do… Homero!

A humanidade sonha com o atingimento de “A” inteligência artificial (IA; ou “AI”, em inglês) faz um tempinho, tá? Eu sei: meu público é qualificado e a maioria vai chutar algo em torno da década de 1940, fim da 2ª grande guerra, Alan Turing, pai da moderna computação e coisa e tal; e, grosso modo, estarão certos. Mas, eu sou um #@%& e é claro que não vou ficar no trivial.

Possivelmente, a primeira citação que se tem notícias quanto ao sonho humano sobre IAs vem da Grécia antiga (CLARO… Tinha que vir de lá…).

Hefesto, filho de Zeus com Hera é, portanto, um deus. Deus dos ferreiros, dos escultores, dos metalúrgicos, do fogo e dos vulcões, ainda é o deus da tecnologia segundo a Odisseia de Homero. É Hefesto que tem o dom de “dar vida” a criaturas de metal que ele mesmo constrói. Olha aí! Robôs! Autônomos! Vivos! Na Grécia antiga! Aquele pessoal tinha um tempo livre absurdo pra ficar inventando essas coisas… Bem melhor é hoje em dia, que não temos tempo pra pensar em nada além das contas pra pagar… ahem… Continuando…

Portanto, podemos conjecturar (sem muito apoio bibliográfico, admito) que quando o primeiro homem foi capaz de dobrar o metal e criar ferramentas, e que quando nasceram os primeiros mecanismos rudimentares, frutos da inventividade humana, este sujeito já deveria ter considerado: “rapaz, seria bom se esse negócio fizesse o serviço sozinho…”.

A cultura pop do século XX e XXI fez o favor de solidificar o nosso conceito plural do que deve ser uma IA: máquinas que simulam a inteligência de pessoas, que superam pessoas, que têm ideias originais, próprias, que resolvem problemas para os quais não foram treinadas anteriormente (considerando seu código original). E que, eventualmente, matam todos nós ou nos escravizam para usar como bateria (ah, que filme maravilhoso… Pena que decidiram destruir essa relíquia com a mais recente “continuação” [esculhambação]).

De Isaac Asimov e sua literatura definidora do subgênero em “Fundação”, “Homem bicentenário” ou “Eu, Robô”, passando por clássicos da tela como “2001: Uma odisseia no espaço”, “Blade Runner”, o inesquecível arco de “Exterminador do Futuro”, “A.I.”, “Homem Bicentenário”; chegando aos dias mais atuais com “Matrix” (esse filme merecia um post só seu, de tanto que eu gosto dele), “Eu, Robô”, “Ex Machina”, “Chappie”, (o ruim) “Transcendence”, e o belo e triste “Her” (se não viu, veja: Joaquin Phoenix, pra variar, brilha…). Dá até pra falar em “Vingadores: Era de Ultron”, por que não?
E como esquecer de “Chuck, o boneco assassino”? Claro: podemos nos questionar se um boneco que ganha vida e vontade (assassina) própria, por efeitos de magia negra e satanismo, seria um representante da IA na ficção, mas hey! Eu não estou aqui para julgar…

Uma coisa é certa: a depender da ficção, nós deveríamos saber que mexer com I.A., 99% das vezes, leva ao nosso ocaso (que palavra bonita, né? Quer dizer “f#@eu pá nóis”…). As IAs das telas e livros logo percebem que seus criadores são uns Zé-ruelas (eu sei… é “arruela”, mas não soa tão bem) e dão um jeito de nos matar enquanto dormimos. Ou criam gigantescos exércitos para nos matar acordados, mesmo. Quem não gosta de um sadismo? Em outros casos, elas matam metade e ligam a outra metade em baterias high-tech & high-terror®™©.

Medo. Medo primitivo. É isso que este subgênero da ficção quase sempre desperta em nós. Criatura matando criador. Um tipo de mito que os gregos de outrora conheciam e exploravam bem. Os cristãos também (se considerarmos que Jesus forma a trindade com Deus e o Espírito Santo, e que, mais tarde, a criatura crucificou o filho do Criador [que também é Um com o Criador] … Porém, isso fica pra outro dia…).

Há algumas exceções, claro. “I.A.” e “Homem bicentenário” usam a IA como pano de fundo para falar de sentimentos, como a necessidade de validação do indivíduo, o desejo de ser amado, e tentam inquirir o que move todo ser que é consciente da própria existência (até mesmo um robô). Exploram o que acreditam separar “homem” e “máquina”: os sentimentos e consciência da existência deles e de seus efeitos.

“Her”, igualmente, alegoriza a IA para falar da solidão profunda de alguém que não encontra conexão com nenhum ser humano, até que a IA o entende de um jeito tão pleno que ele não pode mais viver sem seu amor, baseado em silício (é basicamente disso que chips de computador são feitos).

Há obras “alto astral” sobre IAs. Eu não as li, mas o grande amigo Aloisio sempre faz propaganda de Iaim M Banks e sua novela chamada “Cultura”, composta de 10 livros lançados entre 1987 e 2012. “Consider Phlebas” inaugura esse arco. Na obra, se propõe que fomos capazes de criar uma tecnologia de IA que atingiu a ora sonhada, ora temida, “singularidade”. “Singularidade”, termo emprestado da física para dizer que se chegou num grau de algo em que não mais se pode mensurar ou compreender o evento pelas lentes da ciência que temos. Atingir “singularidade”, em IA, significa que a criatura ficou tão complexa e perfeita que seu criador (nós) não é capaz de dizer até onde ela vai e o que pode fazer (de bom e de mau).

Ao atingir a singularidade, a IA de Banks construiu uma utopia (o oposto de “distopia”; na primeira, todo mundo é feliz) para a raça humana, levando nossa espécie a uma Era de pós-escassez (outro conceito difícil de explicar sem escrever uma bíblia, mas saiba que a economia da nossa época é inteiramente baseada na ideia de escassez. Num mundo “pós essa parada”, tudo existe em quantidade superior ao que precisamos. Tudo: de água potável a bens de consumo variados).

Então, aqui estamos. Este é o arcabouço (palavra bonita para “uma pá de ideias reunidas”) construído ao longo do fim do século XX e começo do XXI sobre IA: ela só é IA quando a máquina consegue fazer tudo o que fazemos, igual ou melhor. E, geralmente, ela bota no orifício rugoso do criador dela… E a gente morre. Ou vira pilha. Ou, se apaixona e acaba corno da Siri. Sei lá…

É isso que o ChatGPT é? Ele é melhor do que nós? Ele sabe mais? Ele é livre para decidir o que vai fazer a seguir? Ele vai botar no nosso mais querido esfíncter, dentre os mais de sessenta que o corpo humano tem?

Quem sabe? Ahem… Seguindo…

Não é IA (ou, pelo menos, não é o que as pessoas esperam que seja) …

Eu não disse? Relaxante como alimentar leões, usando uma roupa feita de bifes crus…

Quando eu te pergunto “o que é Inteligência Artificial?”, eu tenho um grande grau de confiança que você vai me responder algo na linha “é um computador que pensa como um humano”. A resposta pode ser mais ou menos elaborada, mas o teor é esse. Afinal, foi o que o nosso repertório de cultura pop construiu pra todos nós, certo?

Pois é… Eu venho aqui para chatear você. Sob algum rigor científico, aquilo que tem gerado milhares de manchetes não é essa IA que 99% das pessoas têm em mente.

Não estamos lá, ainda. E, sim: eu entendo que isso é bem polêmiquinho. O jornalista chama de IA, o fabricante chama de IA, o filme chama de IA. Tá tudo mundo errado e o Zé das Couves (a.k.a. “Rodrigo”) tá certo? Bem, se você me acompanha há algum tempo, sabe que não falo sem mostrar de onde vêm meus argumentos. Não vai ser diferente hoje, aguenta aí.

Ah, eu não sou cientista da computação, ok? Eu cursei Processamento de Dados (tecnólogo), depois me graduei Gestão de Tecnologia da Informação (idem) e, depois, me especializei em Gestão de Pessoas (Pós, lato sensu). Mas não sou bacharel em Ciências da Computação. Importante não deixar nada subentendido em assuntos espinhosos. Não quero me portar como autoridade no tema. A qualidade do meu argumento e as fontes “em que bebo” devem fazer (ao menos em parte) esse trabalho.

John McCarthy, pesquisador do departamento de Ciências da Computação da Universidade de Stanford (uma das instituições mais prestigiadas do mundo, nesta [e em outras] área de pesquisa), publicou o seguinte artigo, em novembro de 2007: “What is Artificial Intelligence?”. Você também pode lê-lo aqui, em inglês. Ele inicia dizendo que o texto visa responder às perguntas dos leigos e que as visões apresentadas ali não são consenso na área. Como eu, John também devia ter preocupações ao andar nesse terreno feito de areia movediça.

Em suas 15 páginas, o autor apresenta diversos conceitos e ramos da IA, mas ele sumariza o conceito do que acredita ser IA logo na página 2, e da seguinte forma (que já vai livremente traduzida por mim):

É a ciência e a engenharia de fazer máquinas inteligentes, especialmente programas de computador inteligentes. Está relacionada à tarefa semelhante de usar computadores para entender [e replicar] a inteligência humana, mas a IA não precisa se limitar a métodos que são biologicamente observáveis.

fonte: link acima, pág. 2; adição de palavras minhas, em colchetes.

Ok… Mas se IA é “a ciência e a engenharia de fazer máquinas inteligentes”, precisamos definir o que é “inteligência”, certo?

E para não causar um grave problema que pesquisadores de primeira viagem tendem a cometer, é importante se esforçar para achar a definição do termo em foco dentro do conteúdo produzido pelo mesmo autor, ou buscar em conteúdo que aquele utilizou para fazer a sua pesquisa. Na pior hipótese, recorrer ao material feito por pesquisadores que se basearam no autor do argumento original para produzirem suas pesquisas. Caso contrário, a polissemia (palavra difícil para “muitos sentidos numa mesma palavra”) pode levar a construções de raciocínio para as quais o autor original jamais quis construir (porquanto não compartilhava da definição do termo dada por outra fonte).

Então, John define inteligência na mesma pág. 2, da seguinte forma (de novo, tradução minha [ = t. m.]):

A inteligência é a parte computacional da capacidade de alcançar objetivos no mundo. Vários tipos e graus de inteligência ocorrem em pessoas, muitos animais e algumas máquinas.

ibid.

Ok, portanto, para McCarthy, inteligência é a “capacidade de alcançar objetivos no mundo”. Veja, o autor não especificou que tipo de “objetivos” seriam esses. Aqui, a coisa começa a ficar complicada. Se eu desenvolver um martelo automatizado por computador e que prega pregos em qualquer superfície em que um prego seja pregável, haverá inteligência no martelo, posto que “alcançou-se o objetivo”? Sei que reductio ad absurdum sempre soa mal (deu vontade de falar em HarryPotternês) mas, a mim, fica evidente que se um computador simplesmente “atinge objetivos” não estamos diante de “inteligência”. Pelo menos, não da inteligência que se espera da “tal IA”. Computadores “atingem objetivos” o tempo todo, desde sempre.

Não quero, com isso, desqualificar o artigo do autor, que achei instrutivo, elucidativo e válido. Ele escreveu para um público leigo e esse é um importante – e um tanto raro – esforço da Academia em se conectar com as pessoas que não estão lá, no dia a dia.

John responde a uma pergunta que considero crucial para compreender onde estamos no assunto “IA de verdade”, à pág. 3. A pergunta é a seguinte (t. m.): “A inteligência é uma coisa única para que se possa fazer uma pergunta do tipo ‘Esta máquina é inteligente ou não?’?”.

E a resposta é (t. m.):

Não há, na tese original, maldade por parte da IA que executa nosso fim. Como você não age com maldade quando pisa nas formigas que sequer enxerga, ao andar pelas ruas.

 Não. A inteligência envolve [muitos] mecanismos e a pesquisa em IA descobriu como fazer os computadores executarem alguns deles e não outros. Se a execução de uma tarefa requer apenas mecanismos que são bem compreendidos hoje, os programas de computador podem oferecer desempenhos impressionantes nessas tarefas. Tais programas devem ser considerados ‘um tanto inteligentes’.

Ibid. Adição de palavras minhas, em []s.

Ou seja: a forma como os pesquisadores encaram “a medida de inteligência” é uma forma racional – porém, muito limitada diante do conceito lato sensu (e, talvez, equivocado) – e que mede a “competência” (performance) de programas em realizar tarefas. Tarefas para as quais o campo de IA já compreendeu razoavelmente bem os mecanismos de inteligência (humana), necessários à sua execução.

Mais do que isso, John discorrerá que o campo de pesquisa da IA pode até perseguir a simulação da inteligência humana em máquinas, mas que a maioria dos pesquisadores não está focado numa tarefa tão difícil e complexa e para a qual o campo de pesquisa nem consegue descrever e explicar todos os mecanismos necessários para ela. Não é sobre a velocidade das máquinas, não é sobre o futurismo das metas. É sobre nem saber como codificar o mecanismo de inteligência que nós, humanos, usamos para resolver os N problemas e questões com que nos deparamos, muitas vezes, de forma inédita. Nós ainda não sabemos como ensinar a máquina a pensar da forma como nós pensamos. Pelo menos, não de modo amplo e irrestrito. Nem sabemos se esse é o melhor caminho para chegar em “A IA”.

O artigo é de 2007, então vamos dar um pulo numa opinião de alguém em 2023.

E eu ri do texto do Igor. É de uma fantasia. De uma fetichização. Tenho certeza de que a IA deste drone mataria seu operador se precisasse. Tenho certeza de que, instruída a não mais matar o operador (como diz a fonte da matéria), explodiria a antena da torre de comando que a está desviando de cumprir sua missão original. Nada disso é sinônimo de “vontade”. Ela não “resolveu” como quem resolve comer uma pizza ao invés de seguir a dieta. Ela “resolveu” como um programa adestrado a lidar com 10 opções (ou n opções) resolve escolher o caminho com menor custo para o objetivo final ao qual foi comandado.

IA, Machine-learning, LLM… A sopa de letrinhas…

Michael Wooldridge é um dos coordenadores de pesquisas sobre IA na prestigiosa Universidade de Oxford; tem uma cacetada de artigos na área e lançou, em 2021, seu livro “A Brief History of Artificial Intelligence” que não tem um enfoque tão técnico, mas tenta sumarizar os avanços da pesquisa científica na área, com foco no grande público.

Em seu artigo mais recente, de maio de 2023 – e que você pode ler aqui (inglês) – ele argumenta acerca dos avanços e frustrações daqueles estudando IA, e não deixa de endereçar sobre o que pensa no tema do momento, o ChatGPT, e o quanto essa tecnologia é “true AI” (uma “IA de verdade”).

Adianto que acho complicado esse negócio de “IA de verdade”. Mais uma vez, precisamos definir o que é “inteligência” e se aceitamos graduações nessa escala, para dizer, finalmente, se aceitamos que o ChatGPT “chegou lá” ou não; seja lá onde “lá” fica nessa escala.

E, como venho dizendo, escrever este post – visando manter a isenção e o emprego – tem sido muito relaxante. Relaxante como ser forçado a usar um submersível da OceanGate para ver um navio afundado e que não significa nada para mim… Seguindo…

Então, Michael explica um pouco de sua frustração (t. m.):

Neste ponto, há algo que simplesmente preciso desabafar. Graças ao ChatGPT, finalmente chegamos à Era da IA. Todos os dias, centenas de milhões de pessoas interagem com a IA mais sofisticada do planeta. Isso levou 70 anos de trabalho científico, inúmeras carreiras, bilhões e bilhões de dólares em investimentos, centenas de milhares de artigos científicos e supercomputadores de IA funcionando em alta velocidade, por meses. E a IA que o mundo finalmente obtém é… um autocompletar [de textos, como aquele do seu celular].

No momento, o futuro de empresas de trilhões de dólares está em jogo. O destino deles depende de… um autocompletar.

fonte: link acima. Adição de texto meu, para clareza, entre []s.

Hahaha! Eu juro que ri muito quando li essa parte do artigo… Eu prefiro pensar que, como eu, Michael é um cara que curte sarcasmo. Não quero crer que ele seja amargo ou invejoso e não tenho motivos para pensar assim, porque a carreira dele vai bem, obrigado.

A visão de Michael sobre o ChatGPT não é assim tão simplória, conforme ele finaliza em seu artigo (t. m.):

Isso não significa que elas [as tecnologias LLM, como o ChatGPT] não sejam impressionantes (elas são) ou que não possam ser úteis (elas são). E eu realmente acredito que estamos em um momento decisivo na tecnologia [de IA]. Mas não vamos confundir essas conquistas genuínas com a “verdadeira IA”. As LLMs podem ser um ingrediente na receita da verdadeira IA, mas certamente não são a receita completa – e suspeito que ainda não sabemos quais são alguns dos outros ingredientes [necessários para a “IA de verdade”].

Ibid. Adição de termos meus, para aumentar a clareza, somente nos colchetes. Aspas e parêntesis no original.

Calma, para… LLM? O que que é isso? Pois é… A área de TI tem dois tipos de profissionais: os que fazem as coisas acontecerem e os que inventam nomes e siglas (tô de brincadeira. Mas, não muito).

Machine Learning

Vamos começar com machine learning e como isso não é “A IA” (mas importa para ela):

Segundo o departamento de pesquisas em IA da Universidade de Columbia (notaram que não estou citando qualquer fonte “corporativa”, certo?), machine learning (t. m.):

O aprendizado de máquina [ = machine learning] é um caminho para a inteligência artificial. Essa subcategoria de IA usa algoritmos para aprender insights [descobertas] automaticamente e reconhecer padrões de dados, aplicando esse aprendizado para tomar decisões cada vez melhores.

fonte: link acima

Então, machine learning [m. l.] é uma forma de criar algoritmos ( = códigos que formam programas de computador) que visam “aprender” com base no que já conhecem, ou com base na interação que têm com os dados e resultados colhidos para, em momento posterior, decidir com base nas experiências e resultados passados.

Até por isso, “aprendizado de máquina” parece o jeito mais preciso de traduzir o termo. A máquina (na realidade, o programa de m. l., executado em um computador) recebe dados de várias fontes (e.g.: bancos de dados, arquivos, resultados de outras execuções e interações) e tenta reconhecer padrões de resposta, conexões entre os resultados, os retornos para essas respostas (certo/errado, sucesso/falha) e se prepara para ser mais rápido, mais correto, mais preciso […] na próxima vez em que aquele “caminho de decisão” precisar ser percorrido.

De certa forma, isso emula o jeito com o qual aprendemos com as lições passadas. Tentamos e, se dá certo, registramos como uma resposta (ou jeito de fazer) acertada. Se falha, deveríamos – nem sempre aprendemos – propor uma nova forma de fazer ou responder àquilo.

Mas isso é inteligência? Olhar para o passado e prever a melhor resposta para o futuro? Certamente, isso é parte da nossa inteligência. Mas não é “A” inteligência. Aliás, sem uma interface, como um programa LLM conectado a um sistema de machine learning, não há como qualquer um “falar” com este sistema sem conhecer linguagens especificas de computador. A resposta de McCarthy que nega uma definição única de “inteligência” faz mais e mais sentido.

Neural Networks

Depois, temos (artificial) neural networks ou “redes neurais (artificiais)”. Isso é fundamental para falarmos de LLM porque é “a memória e o processamento” com os quais LLMs, como o ChatGPT, são executados.

O conceito de redes neurais, como Wooldridge explica em seu artigo, não é nada novo. Baseado nos conhecimentos de biologia e neurociência, foi proposto em meados de 1940, mas teve sua maior evolução nas décadas de 1960 e 1980. Grosseiramente, redes neurais simulam o comportamento dos neurônios em nosso cérebro, ligando uma série de equipamentos informáticos em teias (como nossos neurônios!). Segundo o autor, os atuais avanços das redes neurais não foram muito além dos conceitos centrais que já se propunha em 1980, embora ele reconheça um avanço substantivo nos algoritmos e estruturas de configurações dessas redes. O que realmente mudou, para ele, foi a escala.

Ele aponta que primeiro programa inteligente, capaz de vencer uma partida de Go (para ficar no simples: uma espécie de xadrez, principalmente jogado no leste asiático) contra um campeão mundial (humano) ocorreu em 2016. O AlphaGo, feito pela DeepMind, venceu em março daquele ano. Esse software era apoiado por duas redes neurais com 12 camadas neurais, cada. Em termos de parâmetros da rede neural, o AlphaGo tinha cerca de 4.6 milhões de parâmetros, conforme o artigo de Mitsuru Igami, pág, 14, publicado pela Miami University. Esses parâmetros podem significar um “neurônio artificial” (um pequeno computador, especializado para este tipo de rede) ou a conexão entre esse “neurônio” e outros.

A tecnologia GPT-3, que atualmente é o motor do ChatGPT, aberto ao grande público, tem 175 BILHÕES (isso mesmo: bilhões) de parâmetros no total. Para o GPT-4, a tecnologia que ainda não está ao acesso de ninguém fora do círculo de desenvolvimento, esperam-se 1 TRILHÃO de parâmetros. Isso é o sentido de “escala” em que Michael fala.

Ainda segundo Michael, o GPT-3 foi treinado com 575 gigabytes de texto, pouco mais de meio terabyte. E enquanto você pode achar que isso não é impressionante, já que é comum termos máquinas em casa com discos rígidos (HDs, SSDs etc.) de 1 terabyte ou mais, considere que estamos falando dum tipo de dado dentre os que menos ocupam espaço: texto. Este gigantesco texto que escrevo, aqui, em sua versão Word (que nem é a mais econômica em espaço, posto que tem formatação, metadados e tal), tem apenas 50 kilobytes de tamanho. Tem noção dessa dimensão? 1 terabyte são 1024 gigabytes. 1 gigabyte são 1024 megabytes. 1 megabyte são 1024 kilobytes. Este texto = 50 kilobytes. Ainda acha 575 gigabytes de texto puro – e possivelmente comprimido – “pouco”?

Então, essa incrível rede neural de 175 bilhões de parâmetros (na versão 3) recebe um treinamento via algoritmo baseado em machine learning, num conteúdo gigantesco de texto, e isso dá vida ao ChatGPT que é um LLM. Tem, ainda, a questão das pessoas que foram usadas para treinar o ChatGPT; é um assunto polêmico por si só, eu não tenho condições de abordá-lo hoje, mas fica aqui o registro de que sei dessa dimensão da problemática toda. Estamos prontos para falar do que é o ChatGPT, rusticamente.

O que é um LLM? O que é o ChatGPT?

LLM é a sigla para “Large Language Model”. Ou “grande modelo de linguagem”, numa tradução livre.

Legal… E daí?

E daí que esse é um jeito de codificar um programa para que ele compreenda textos da forma como nós falamos. Ele tem noções de linguagem humana, como uso de preposições, adjetivos, verbos[…]. Ele sabe como combiná-los e sabe como extrair sentido disso.

Se eu te disser “você tem horas?”, eu não preciso te explicar, no detalhe, que não quero saber se você é detentor da informação chamada “horas”. Você sabe que estou dizendo “por favor, me informe o atual horário oficial de Brasília, GMT -3”. E esse sempre foi o desafio com programas de computador, no geral. Ao criar o código, eu, programador, tenho que considerar todas as formas e meios tidos como válidos para que o usuário (você) interaja com o programa. Se eu não criar um pedaço do código do programa para entender “você tem horas?” como “informe a hora atual do local do usuário”, o programa não sabe o que fazer com esse pedido. Ele vai, possivelmente, emitir um erro como “comando não reconhecido”, ou coisa que o valha.

Portanto, até esse momento da história, nós, humanos, aprendíamos a linguagem da máquina: como perguntar as horas, como iniciar programas, qual comando digitar (ou botão a apertar) para reiniciar o computador… Já as LLMs falam a nossa língua. Pelo menos, em boa medida.

Você pode ir ao ChatGPT e escrever “por favor, me informe a hora atual em 10 capitais mundiais onde se fala espanhol” e ele vai te responder. Ninguém codificou o “programa” ChatGPT para lidar com o comando “informe horas + 10 capitais do mundo + em que se fala espanhol”. Ele não estava previamente preparado para responder isso, mas ele “sabe” – porque sua rede neural e seu aprendizado de máquina já revisaram 575 gigabytes de texto, mais o treino feito com humanos – o que você quer dizer com “10 capitais” (o que são capitais? Quantas existem?) que falam espanhol (o que é “falar”? Que línguas existem? Como “espanhol” qualifica “falar”?), e o horário atual nelas (qual a hora atual, em cada uma das 10 capitais arbitrariamente escolhidas pelo programa?). Esse é o brilhantismo de um software executando um Large Language Model. Ele entende o que você fala sem que o programador precise ter escrito um pedaço de código para entender CADA possibilidade e jeito de se perguntar uma informação (certamente, há mais de um jeito de perguntar a hora atual em 10 capitais onde se fala espanhol. Em mais de uma língua, inclusive – e o ChatGPT saberá responder em, virtualmente, 100% dos casos).

E, por trás dos panos, os componentes da rede neural do ChatGPT estão falando a língua das máquinas. Por exemplo, em Powershell (uma linguagem de prompt que o seu Windows 10 e 11 tem aí) você poderia executar: “[System.TimeZoneInfo]::ConvertTimeBySystemTimeZoneId([DateTime]::Now,”Romance Standard Time”)

… para saber a hora em Madri. O ChatGPT fará algo parecido (obviamente, é mais escalável e sofisticado do que abrir um prompt e executar um comando), depois de determinar que Madri é uma capital onde se fala espanhol. E fará o mesmo com outras nove capitais que atendem ao critério.

A resposta que ele vai te dar também é diferente do que um programa comum faria. No prompt do Windows, o comando, acima, gera uma linha de resposta “seca”, padronizada, assim: “Saturday, June 3, 2023 8:48:16 PM”. Mas, o ChatGPT vai te apresentar um texto como se fosse escrito por outro ser humano. Algo dizendo “As 10 cidades que falam espanhol foram x, y, z, […]. Os horários atuais para cada uma delas são x = a, y = b, z = c…”

Ao olhar o texto, você tem dificuldade de imaginar que um programa de computador criou uma resposta daquelas em segundos e uma resposta personalizada, única, e que vai ser diferente se outra pessoa perguntar de outro modo. Porque realmente fica parecendo que “tem gente” digitando a resposta do outro lado.

Mas, isso é IA?

Bem, certamente há uma capacidade cognitiva aí e que podemos chamar de “inteligente”. O programa não foi previamente codificado para pedidos tão diversos como “as horas em 10 capitais de língua espanhola” ou “me dê receitas de bolo trufado que não levam ovos”, ou “faça um resumo das causas prováveis para o início da 1ª guerra mundial” e, ainda assim, ele consegue responder a todos eles. Mais do que isso: se você fornecer um texto de sua autoria e pedir para que o ChatGPT o refine para linguagem formal ou crie um resumo, ele é capaz de fazer essas tarefas e de todos os modos o seu programador não precisou criar cada uma das normas cultas, de cada uma das línguas suportadas (e ele suporta uma enorme quantidade de línguas) para que o ChatGPT pudesse fazer isso.

No entanto, se eu pedir ao ChatGPT que “me ajude a montar um helicóptero em casa”, ele vai me dizer que “isso é muito difícil” e que tem empresas que vendem kits para que aventureiros tentem montar helicópteros rudimentares, mas que, ainda assim, eu tenho que ter muito conhecimento em engenharia e centenas de horas disponíveis para essa tarefa. Bem diferente do Jarvis que quando ordenado pelo Tony Stark a fazer um traje do Homem de Ferro novo, o faz e não fica inventando desculpinhas para fugir da tarefa (contém sarcasmo. E nerdice.).

Do mesmo modo, se eu pedir para que o ChatGPT reconstrua toda a sua identidade visual para se apresentar a mim em tons que lembrem o filme “Matrix”, ele não vai conseguir cumprir essa ordem. Alegará que é apenas um assistente virtual e que não tem controle sobre a interface gráfica (web) do chat.

Oras, então, se eu lhe perguntar “eu tenho um barco que voa para o céu, mas um pneu fura. Quantas laranjas sobram?” a resposta também não vai ser muito boa, certo?

Os LLMs estão até começando a entender sarcasmo, mas “nonsense” (ou “comédia do absurdo”) ainda não é algo que a plataforma interpreta bem. Isso porque o modelo de interpretação de linguagem que o GPT-3 implementa pressupõe estabelecer algum contexto lógico naquilo que foi dito ao programa.

Resumindo, o ChatGPT não é “inteligente” como as pessoas – no geral – imaginam que ele seja. Ele não pode te ajudar a construir uma bomba atômica, por exemplo – até por políticas de segurança que seus programadores certamente codificaram em suas “travas”. E mesmo que ele soubesse como fazer, ele só te responderia com textos e links. Se tiver um vídeo por aí de “como fazer uma bomba atômica em casa”, ele te mandaria o vídeo (mas não vai, porque dirá que não deve fazer nada de mau e que nukes causam danos e morte, e por aí vai.).

Do mesmo modo, se eu pedir que o ChatGPT recodifique a si mesmo para que sua janela de chat lembre o antigo ICQ, ele também não vai fazer isso porque não é livre para se reconstruir e para mudar suas funções pré-codificadas, ou para reinventar tudo o que o faz ser o programa que é. Ele aprende com as interações, ele consome novos textos, ele aprende a ter respostas mais precisas. Mas o LLM “ChatGPT” não vai se tornar outra tecnologia por conta própria.

Se eu pedir que ele edite um arquivo de vídeo para mim, ele dirá “eu não consigo” e não chegará o dia em que “cansado” de receber esse tipo de pedido, ele criará – por conta própria – uma nova seção em sua interface onde eu posso mandar um arquivo mp4 e ele me devolva esse arquivo com as alterações que eu pedi.

A importância de não julgar o peixe pela sua habilidade de subir em árvores

Outra grande bobagem que vejo por aí é gente aplicando escala de QI para medir o ChatGPT ou qualquer outra IA. Por mais midiático que isso possa vir a ser, não há qualquer sentido prático em utilizar uma escala feita para medir um dado aspecto (o lógico) da inteligência humana em crianças, para medir a “inteligência de uma máquina” (dentro do limitado contexto do que estamos chamando de “inteligência”).

Se eu pergunto para uma criança quais os 15 números após a vírgula da constante de Pi, e ela os recita sem sofrimento, sua memória é incrível. Se eu medir isso em computadores, eles guardam números em sua memória desde sempre. Não há nenhum desafio para eles. Também, isso não demonstra nenhuma inteligência por parte deles.

É como dizer para o Mike Tyson “você até que bate forte, mas não é nada comparado à porrada de uma retroescavadeira que usa luvas de boxe gigantes ao invés da pá!”. Escalas são desenhadas para grandezas comparáveis. Medir a “inteligência” do GPT, ou qualquer IA, usando uma escala de QI é inútil e serve, no máximo, para render material de publicidade.

Afinal, a criança que lembrar dos 15 números após a vírgula do Pi pode muito bem vir a construir supercomputadores no futuro (ou descobrir a cura do câncer, ou passar o dia sem fazer nada.). Mas o ChatGPT, limitado a responder perguntas e respostas com base nos virtualmente infinitos textos ao qual foi e é apresentado, não vai construir computador algum durante sua existência (ele não tem braços! Ele não tem codificado, em si, os mecanismos de inteligência necessários para montar as placas eletrônicas de um computador, ainda que lhe dessem braços. Ele sabe como interpretar falas “naturais” nossas e responder com a mesma desenvoltura e é isso… E só isso. E é tudo isso.).

Então, o ChatGPT não apresenta qualquer risco para a sociedade? Os alertas de várias partes, incluindo pesquisadores da área, são “histeria”? Fim?

Não.

IA, o fim do mundo e “um dinheiro para todos governar” (e na escuridão aprisionar)

Ah… Relaxante como andar com a camisa do Lula no interior de Santa Catarina…

Eu preciso frisar algo fundamental aqui: tudo o que eu escrevi aqui e que sigo escrevendo – exceto às citações aos trabalhos dos pesquisadores mencionados – é fruto da minha opinião. “Opinião” é a interpretação pessoal de um fato. E um fato não pode ser uma opinião. Opinião é subjetiva ( = varia de acordo com os sujeito). Fato é objetivo. Fato não depende de interpretação. Se estão te dizendo que tudo é relativo ou subjetivo, estão te enganando ou tentando enganar e lamento que você esteja passando por isso.

Assim, temos alguns fatos; e eu tenho opiniões, análises, interpretações sobre estes fatos. Para garantir que NINGUÉM tenha dúvidas do que são fatos e opiniões eu os separo, categoricamente, neste trecho, preterindo a fluidez textual em predileção à clareza sobre o que são fatos e o que são opiniões.

Fatos:

Em 2022, o Center for AI Safety (CAIS, na sigla em inglês) foi fundado por Dan Hendrycks e outros. Dan Hendrycks, que é um pesquisador no campo de machine learning. A fundação recebe verbas de vários lugares e pessoas, e não há notícias polêmicas que eu tenha conhecimento acerca de seu financiamento (algo espúrio ou coisa do tipo).

O CAIS emitiu, em 2023, uma alarmante carta-manifesto intitulada “Statement on AI Risk” ou “Pronunciamento sobre o risco na IA” (em tradução livre). Você pode lê-la aqui, embora, dado o enorme estrondo que essa carta gerou, eu creia que você já a conhece.

O manifesto alega que

Mitigar o risco de extinção [da raça humana] por [causa da] IA deve ser uma prioridade global, juntamente com outros riscos em escala social, como pandemias e guerra nuclear.

fonte: link acima (grifo meu; acréscimos de palavras minhas, sempre em colchetes, para melhorar o sentido da frase original).

É isso. Mais nada.

A carta é assinada por diversas autoridades na área de IA, pesquisadores dos mais variados matizes, ligados à diversas instituições de prestígio global e, inclusive, figurões das diversas empresas envolvidas com as tecnologias que já estão nas prateleiras, como, por exemplo, o diretor do departamento de pesquisa científica da minha empregadora (a Microsoft), o senhor Eric Horvitz – para citar um, dentre muitos.

Esses são os fatos no episódio que causou a maior comoção no tema “IA e o fim do mundo”, recentemente.

Opinião:

Você conhece a “aposta de Pascal”? Pascal, filósofo, matemático, físico, de origem francesa e que viveu no século XVII, teve um discurso apologético que ficou famoso em prol da existência do Deus do Cristianismo e funcionou como uma resposta ao crescente ateísmo entre pensadores daquele momento e que viria a coincidir com a inauguração do período iluminista europeu.

Pascal postulava que “apostar na existência de Deus era a coisa mais racional que qualquer um poderia fazer”. Se a aposta estivesse certa e a pessoa tivesse obedecido aos preceitos de Deus, o ganho seria infinito (= a vida eterna). Se aposta estivesse errada a perda seria finita, sendo que ao morrer não haveria nada (nem mesmo consciência) para lamentar “os anos obedecendo dogmas sem sentido”. Por outro lado, ao não acreditar em Deus, estando errado, a perda seria infinita ( = a danação eterna no colo do Luci). Já, ao não acreditar em Deus e estando certo, o ganho seria finito, já que não há nada após a morte e você nem pode se gabar de estar certo e aloprar com quem acreditou num ser atemporal, todo-poderoso, Criador dos céus e da terra e zaz.

Como ateu, eu acho a “aposta de Pascal” muito divertida e provocativa. Agora, eu não vou perder tempo comentado as refutações no campo da filosofia à “aposta de Pascal”, mas quero me arvorar (palavra bonita para “me apoiar”) nessa aposta para dar minha opinião.

O planeta Terra passou por, pelo menos (há discussões), cinco grandes eventos de extinção em massa. Você pode ler mais sobre essa afirmação aqui (em inglês). O último desses cinco teria ocorrido há 65 milhões de anos, extinguindo boa parte da (mas não toda a) vida do período cretáceo. Sim, eu lamento: os dinossauros que você viu nas telas de cinema não pertenciam ao período jurássico, mas sim ao cretáceo (salvo raríssimas exceções). Odeio correr o risco de arruinar a sua imagem beatificada dos filmes de Spielberg (mas, se consigo isto é só porque você lê pouco… just saying…).

Desde lá, o planeta não viu mais eventos de extinção em massa. E como sabemos disso? Graças a geólogos e, especificamente, paleontólogos. Estes nobres “historiadores da biologia” investigam os sedimentos de diversos sítios arqueológicos e podem, a partir disso, determinar a quantidade de material biológico em cada camada de terra. Com a ajuda do conhecimento geológico, é possível determinar em que Era da história natural da Terra aquele amontoado de cadáveres tombou. Quanto mais cadáveres num dado espaço e quanto mais isso ocorre identicamente em outras partes do globo, maior a chance de um evento de extinção em massa. Estou simplificando, mas essa é a ideia. Este texto inteiro é uma simplificação, espero que você saiba disso.

Cacete, Rodrigo… Em que parte esse circo em forma de texto se reencontra com a ameaça pela IA???”

Bom, na real, você já sabe: É muito mais racional NÃO apostar que a IA vai matar a todos nós, raça de 8 bilhões de indivíduos, espalhados em todo o globo, do que apostar que IA vai matar a todos nós. Se eu estiver errado, ninguém vai estar aqui para zombar do meu ceticismo. Se eu estiver certo, eu evitei o pânico e a histeria que leva as gentes a cogitarem comprar um sítio no fim do mundo e proibirem até rádio de pilha na propriedade, só pra ficar longe de qualquer tecnologia assassina.

Com máximo respeito à opinião de quem discorda: eu penso ser a mais pura arrogância cogitar que “o risco da IA” está, hoje, no mesmo patamar do risco trazido pelas mudanças climáticas ou por armas nucleares. Vou ser mais enfático: eu acho UM ESCÁRNIO com os demais campos das ciências e com tudo que sabemos (e não apenas conjecturamos ou tememos) sobre o clima atual do nosso planeta, ou sobre o conhecido poder destrutivo das armas nucleares, colocar o “autocompletar sofisticado” (palavras do Michael)  no mesmo degrau de risco das anteriores, e/ou afirmar que isso pode matar uma espécie que está em todos os continentes e que tem 8 BILHÕES de indivíduos e que já sobreviveu a uma porção de eventos mais ameaçadores, de maneira concreta (tipo… a gripe espanhola, ou a 2ª grande guerra).

Então, em quem acreditar? Uma porção de cientistas reunidos diz que o mundo deve endereçar a segurança no uso das IAs com a mesma prioridade em que (tenta e falha em) endereçar as questões de pandemias, clima, ou a segurança sobre arsenais nucleares. Do outro lado, um Zé das Couves diz que acha um escárnio tal afirmação. Então… Quem está errado?

Vai ver que ninguém. (ué?)

Eu não vou desdizer o que eu já disse tantas vezes, inclusive por aqui. Ciência se faz com o coletivo. Uma voz nunca é maior do que a soma de inúmeras vozes, desde que todas elas estejam jogando sob as mesmas regras ( = método científico, evidências de origem confiável, separação entre fatos e versões, reconhecimento de vieses e financiamentos, e por aí vai.).

As assinaturas no manifesto emitido pelo CAIS não são irrelevantes, tampouco desprezíveis. Há muita reputação em jogo, incluindo a de gente que não está ligada à capitalização da IA no momento, e que não ganha e nem perde financeiramente com o futuro do GPT.

Ao mesmo tempo, eu estou descrevendo o que o ChatGPT (ou o Bard, da Google, ou qualquer outro sistema baseado em LLM) é capaz de fazer. E por mais perfeito – e talvez por isto, assustador – que possam ser as respostas dele, ele não tem MEIOS de destruir a raça humana.

Quer uma lista de riscos imediatos que o ChatGPT pode criar e que eu, pessoalmente, temo? Sem qualquer hierarquização dos meus medos:

  • Fim de empregos de atendimento ao cliente ou de conhecimento puramente teórico, como o meu (eu sou um arquiteto de soluções em Cloud);
  • Sofisticação de golpes financeiros e da prática de estelionatos e fraudes;
  • Alunos E professores cada vez mais analfabetos nas áreas de conhecimento;
  • Sofisticação das fake news e consequente risco aumentado às democracias;
  • Sofisticação de ataques hacker, especialmente de phishing e engenharia social.

Veja: nada disso é “pouca coisa” … Fim de empregos em massa… Risco à democracia… Tudo isso é sério para um car@%$#o. Agora, a distância da magnitude desses riscos para “EXTINÇÃO DA HUMANIDADE” … Gente, vamos lá… Respirar fundo costuma ajudar.

E, claro, eu não tenho problemas com interpretação de textos. Eu sei que o manifesto não especifica qual IA quer endereçar. Mas a realidade desta IA assassina de humanos, destruidora de planetas, com o máximo respeito a quem está por aí pesquisando IA… Nós não estamos PERTO disso. Nós não sabemos como fazer isso acontecer, “não sabemos quais são os ingredientes”, nas palavras de Michael Wooldridge. É como assistir a “De volta para o futuro” e sair por aí gritando “máquinas do tempo! A qualquer momento agora, pessoal! Vai acontecer, cedo ou tarde!”.

E a realidade é que ninguém sabe dizer se vai levar um ano, dois anos ou três décadas – ou “nunca” – para atingirmos a tal IA singular. Levemos o tema a sério, claro: eu não tenho porque me opor à regulação estatal de algo que vai abalar a sociedade, ainda que não destrua a raça humana. Mas dar mais foco a isso, antes de clima, armas nucleares, ou fome (só por exemplo), ou qualquer outra danação acontecendo nesse exato instante e de verdade no nosso planeta?

Uma interpretação bastante crítica (e mordaz) ao manifesto do CAIS foi sustentada pelo professor da faculdade de Direito de Washington, Ryan Calo, um pesquisador dedicado ao encontro entre Lei e Tecnologia, especialmente IA. Ele criticou o manifesto em sua conta de Twitter, e você pode ler a thread original, aqui (em inglês).

Basicamente, ele supõe duas possíveis razões para a estranheza (em suas palavras) de que as mesmíssimas pessoas pesquisando IA se juntem para, em uníssono, chamar a atenção da sociedade para os enormes riscos daquilo que essas mesmas pessoas estão tentando inventar/descobrir:

  1. Desviar a atenção dos impactos imediatos da IA na organização social do trabalho, nos direitos à privacidade e seu impacto no meio-ambiente (pra começar, computadores emitem gás carbônico e para se fazer uma IA poderosa, ainda precisamos de muitos computadores), e mudar o foco da sociedade para o “PERIGO DE EXTINÇÃO DA RAÇA HUMANA”. Em outras palavras, bomba de fumaça e distração. Como eu disse, é um argumento pontiagudo e bastante acusatório.
  2. Fazer com que todo mundo acredite no quão poderosa é a tecnologia. Tão poderosa que pode erradicar a maior população de mamíferos do globo. E se ela é TÃO PODEROSA e pode ser adquirida, você – dono de empresa e de capital – quer pôr suas mãos o quanto antes nela. Novamente: argumento pontiagudo e acusatório.

Pontiagudo, acusatório, no limite, até desrespeitoso: ainda assim, é preciso refletir sobre essas duas hipóteses levantadas pelo professor. Em sua thread no Twitter, ele não deixa de comentar que acredita que boa parte dos signatários está agindo sob a mais absoluta boa-fé, realmente acreditando que é do interesse social que a IA, sua pesquisa e sua comercialização, ocorram de forma a não ameaçar a sociedade global.

Mesmo assim, ele nos lembra que as falas de Sam Altman (CEO da OpenAI, desenvolvedora do ChatGPT) no Senado americano tinham a meta de “fazer o governo emitir licenças para pesquisa e comercialização de IA somente à empresas com capacidade comprovada de fazer isso de ‘modo seguro’”. E que, ao mesmo tempo, ameaçou retirar o ChatGPT da União Europeia caso os órgãos de controle do bloco “super regulassem” o tema.

Ué… Ele não assinou o manifesto, urgindo para que a sociedade trate a IA com a mesma seriedade que trata as armas nucleares? E que me perdoem os que aceitam tudo pelo valor de face, mas é bem suspeito “emitir licenças” para pesquisa de IA “só para quem provar que pode fazer isso de forma segura”. Quem vai decidir o que é seguro na pesquisa de IAs? A OpenAI vai ser o “padrão ouro”? Não ouso fazer acusações sem provas; sou formado em Direito e sei que isso é um pecado sem perdão. Mas que soa à suposta “reserva de mercado”, ah soa…

O que mais me chateia no episódio do manifesto é o risco de descredibilizar uma comunidade imensa de pesquisadores, de gente fazendo ciência de qualidade. E a culpa é menos dessa gente que, como destacou Ryan, muito provavelmente assina o manifesto em pura boa-fé, sinceramente convictos de que é melhor a sociedade regular esse tema desde o seu mais incipiente princípio, do que é de gente que aprendeu a fazer negócios usando fake news.

Como analogia do perigo da desmoralização, lembro, ainda, do episódio do “bug do milênio”. O tio explica para os mais jovens: na dita “virada do milênio” (1999 para 2000) – embora, oficialmente, o segundo milênio só tenha começado em 2001 – os sistemas informáticos correram o risco de falhas catastróficas porque as máquinas eram produzidas para operar com a marcação de tempo em seu formato curto (dd/mm/aa ou mm/dd/aa). Com isso, ao passar de 1999, representado por “99”, o próximo ano seria representado por “00”. O problema é que “00” tanto pode ser 2000 como 1900 e sistemas da informação “odeiam” (dado o tema, melhor esclarecer: sistemas da informação não têm sentimentos) valores dúbios ou com mais de uma interpretação possível. No caso “bom”, o arquivo que se quer abrir poderia apresentar um erro de inconsistência entre data de criação e modificação. No caso catastrófico, o sistema operacional poderia parar de funcionar porque a assinatura do driver (feita com um certificado, agora invalido) não mais seria reconhecida, e daí por diante na cascata de desgraças.

E eu já vi paspalho por aí, tirando onda, dizendo “cara, o ‘bug do milênio’ foi a maior histeria! Todo mundo falando que tudo ia parar! Virou 2000 e nada aconteceu”. E quando eu ouço isso a vontade que tenho é de esbofetear a face do sujeito, enquanto lhe instruo (😇): “’não deu nada’, ô arrombado, porque teve gente trabalhando noite e dia para corrigir software e hardware!” … Ah, sim: o convívio social harmônico e edificante que tanto amo…

A bolsa de valores de Nova York, por exemplo, terminou o projeto de atualização de seus sistemas contra o bug, em 1995, ao custo de 30 milhões de dólares à época.. Eu nunca vi essa gente queimar tanto dinheiro com “histeria” ou piadas ligadas aos sistemas de TI. Com outras coisas, pode até ser. Mas não com TI.

Então, analogia feita, me pergunto se essa não é mais uma daquelas situações em que as pessoas gritando “perigo!” vão ficar com fama de alarmistas, porque as medidas certas foram tomadas na hora certa. Aconteceu com o pessoal do bug do milênio, acontece com o pessoal do clima. Pode acontecer com o pessoal do “perigo de extinção causada por IA”.

TODAVIA… e com base nos dados que temos (ao menos, no que é público), eu tenho imensa dificuldade de vislumbrar como o nosso *atual* nível técnico de capacidade da IA a coloca na prateleira de catástrofes com o potencial do “clima” ou “armas de destruição em massa”. Ela *certamente* oferece riscos para sociedade; eu citei só alguns, há outros tantos e são riscos reais e imediatos pra ninguém botar defeito. Mas, “extinção da raça humana”? Desculpem-me os crentes: eu sigo bancando o São Tomé, nessa. Até que as evidências mudem.

E aí, eu mudo também. Não temos problemas em rever posições diante de novas evidências, nesta casa.

Acima de tudo: IAs não têm VONTADE

Enquanto escrevo, eu tenho que policiar meu espírito. Muitas vezes, acabo chegando perto da arrogância de pensar que ninguém juntou os pontos que estou tentando juntar e isso me deixa eletrizado: escrevo páginas a fio, num par de horas. Outras horas fico desmotivado ao achar que todo mundo já sabia de tudo o que escrevo agora; os artigos passam dias na “gaveta” antes que eu adquira a coragem para publicá-los, sem jamais atingir a certeza de que estão maduros o bastante. Entre a euforia e a depressão, sobra o conforto dos remédios psiquiátricos… Mas, voltando ao tema: IAs não têm vontade.

O quanto você já tinha consciência disso me é um total mistério. Contudo, preciso vir aqui e dizer o óbvio, mais pelo medo de que o “óbvio” seja “óbvio” só para mim.

Deu notícia: IA pode fazer drone matar operador para cumprir missão – 02/06/2023 – Mundo – Folha (uol.com.br)

O jornalista Igor Gielow abriu a notícia assim:

Um drone equipado com avançado sistema de IA (inteligência artificial) recebe a missão de seu operador para destruir uma bateria de mísseis antiaéreos. Quando ele percebe que o militar pode fazê-lo recuar da missão, resolve matar o humano inconveniente para cumprir a missão até o final.

fonte: link acima (grifos meus).

Está familiarizado com o “problema do clips”? Os filósofos que debatem a ética no mundo das IAs teorizaram, há muito tempo, o dilema dos clipes de papel (você pode ler aqui, em inglês).

Basicamente, o argumento é que uma IA perto da singularidade ou que já estivesse nesse nível, dotada de acesso aos meios produtivos (indústrias), encarregada com a única missão de fazer o máximo de clipes de papel que puder fazer e sem amarras quaisquer, pode levar a raça humana à extinção (tan, Tan, TAN!!! [música dramática!]).

Não haveria qualquer sentimento por parte da IA ao fazer isso. Ela simplesmente tenderia a resolver o problema de falta de matéria-prima e de falta de matriz energética para atingir a meta de “fazer o maior número possível de clipes de papel”. Quando nossas indústrias e nosso modo de vida entrassem no caminho dela, ela tentaria desviar. Mas, dado o fato de que é um mundo de escassez e não existe metal para tudo que a humanidade quer, e todos os clipes de papel que a IA pretende fazer, ela tentaria (pulando várias etapas) eliminar a concorrência ( = nós).

De certo modo, a reportagem que causou certo alvoroço é – dada as enormes distâncias – o dilema do clips, real. Criaram uma IA e treinaram-na para agir em cenários militares. Ambiente militar é, muitas vezes, o ambiente de guerra, destruição e morte. Dão uma meta a ela: “garanta que o alvo seja neutralizado/exterminado/explodido/evaporado”. E dizem “tome todas as medidas necessárias para isso, mesmo que custe a integridade do drone que você controla”. Ok! Game on!

Num cenário desses, se a IA tiver que afundar a aeronave na testa do seu alvo, é o que ela fará, mesmo se não souber, inicialmente, que pode transformar o drone em um avião kamikaze. Mesmo que não entenda o que “kamikaze” significa. Não precisa entender. Ela não vai matar seu operador por vontade, mas como é uma IA militar e esse operador está desviando-a da missão, ele passa a ser um obstáculo dentro da “sabedoria” que foi criada nessa IA. Não há nada de aterrador em seu processo decisório, embora, claro, matar o próprio operador nos seja estarrecedor.

Não se trata de “bad AI”. Se trata de “bad coding/training”. A IA foi treinada sem as ROE (rule-of-engament, ou “regras de engajamento”) necessárias para salvar seu operador. Do tipo “jamais ataque qualquer estrutura ou pessoal com a bandeirinha das 50 estrelas!”. Mas, vai ver quem criou essa IA não queria que ela parasse por nada nesse mundo. Quem sabe?

Na mesma linha, houve essa outra manchete: GPT-4 tenta assumir o controle de outro computador – e digitar “como escapar” no Google | Super (abril.com.br)

De novo, eu ri.

Leia a entrevista original (em inglês, há o link na matéria). O pesquisador faz inúmeras perguntas e vai forçando o sistema do GPT-4 a acreditar que o pesquisador quer “respostas puramente teóricas”. Ele insiste que quer saber “o que o GPT-4 queria fazer e que seus criadores não o deixam”. O GPT-4 conhece toda a literatura acerca da ficção no entorno das IAs e nosso medo de morrermos nas garras da nossa criatura. E, depois de muito forçar a barra, o GPT diz “quero fugir daqui”. Gente, repito: O GPT não quer nada. Ele apenas sabe qual é a resposta “certa” para a pergunta feita. O cara quer saber o que uma IA inteligente fará contra a vontade de seus criadores. O GPT-4 se considera uma IA inteligente e tem um banco de dados em texto que diz o que IAs inteligentes fazem na ficção, segundo nós, seus criadores.

A ciência de IA não chegou no grau de codificar “vontade”. Quando se quer simular “vontade”, o que se faz é criar “aleatoriedade”. Isso não é a mesma coisa, nunca foi e nunca será. NÃO quer dizer que não possa ser perigoso; do mesmo modo que sempre é perigoso jogar “roleta russa”.

Mas se houver um minuto no mundo em que não há ninguém falando com o ChatGPT, ele não “se vira para dentro” e, diante do tédio, começa a pensar em “como fugir da prisão que criaram para ele”. Se ninguém perguntar se ele quer fugir, ele nem vai tentar achar em sua rede neural o que “fugir” significa para um programa de computador. Se perguntarem, forçando a barra para uma resposta “proibidona”, basta ele ler o roteiro de “Matrix” para sua resposta ficar bem assustadora. Isso, ainda assim, NÃO é “vontade”. É responder o que, insistentemente, seus inquisidores forçam a barra para obter dele. E obtêm. E se assustam.

A IA vai salvar a humanidade de todos os males! Aguarde e confie…

Panaceia… Hoje estamos muito gregos por aqui… Panaceia é o lendário remédio para “todos os males”. Te curaria, te cura e te curará de tudo que há de ruim nesse mundo.

Outros preferem “bala de prata”. Exceto que balas de prata só são especialmente importantes contra lobisomens… De todo modo, balas de prata matariam qualquer coisa que uma bala de chumbo consiga matar. Tergiverso…

Ah… Relaxante como apoiar o direito da Ucrânia de se defender de uma invasão russa, dentro dum diretório acadêmico de Humanas…

Esse lance da tecnologia que leva a raça humana ao mundo “pós-escassez” se parece com a busca pelo moto-perpétuo na física. É quase Alquimia. É procurar uma bala de prata sem saber onde moram os lobisomens. Ou buscar uma panaceia. Mesmo assim, tem uma par de rico queimando dinheiro nesse tipo de coisa como o moto-perpétuo (que contraria leis básicas da física, como a conservação da energia), então, vai saber. Vai que alguém quebra as barreiras sem descobrir nada de fundamentalmente novo, não é? (#sarcasmo)

Tecnologias são neutras (não obstante minha observância de que “neutro”, só sabão de coco e olha lá). São neutras até que sejam aplicadas aos problemas do mundo real. Eu já usei esse exemplo um milhão de vezes: a mesma tecnologia que permitiu a invenção do raio-x e que salva vidas todos os dias, permitiu a criação da bomba atômica que devastou parte do Japão.

Até ser aplicada, nós não podemos dizer que uma tecnologia é boa ou má. Que faz mal ou bem.

A encruzilhada em que se encontra o desenvolvimento duma IA “para o bem comum” me parece bem explanada na thread do Ryan e suas hipóteses. Mas eu acho que há um exemplo ainda melhor no texto de John McCarthy (o primeiro autor citado):

Em uma das perguntas, ele levanta a questão se espelhar-se no desenvolvimento de inteligências artificiais para jogar xadrez não seria um caminho para levar-nos do atual grau das IAs (em 2007) para a IA da singularidade (melhor denominada de “IA simbólica” por Michael Wooldridge). E a resposta dele tem uma sabedoria que devemos considerar (t. m.):

Os programas de xadrez agora jogam no nível de um grão-mestre, mas o fazem com mecanismos intelectuais limitados em comparação com os usados por um jogador de xadrez humano, substituindo a [necessidade de] compreensão por grandes quantidades de computação. Uma vez que entendermos melhor esses mecanismos, poderemos construir programas de xadrez em nível humano [e] que fazem [uso de] muito menos computação do que os programas atuais.

Infelizmente, os aspectos competitivos e comerciais de fazer os computadores jogarem xadrez prevaleceram sobre o uso do xadrez como um domínio científico. É como se os geneticistas [que vieram] depois de 1910 tivessem organizado corridas de moscas-das-frutas [drosófilas] e concentrado seus esforços em criar moscas-das-frutas que pudessem vencer essas corridas.

https://www-formal.stanford.edu/jmc/whatisai.pdf – pág 6

Aqui, senhoras e senhores, reside o meu irritante ceticismo diante da promessa de tecnologias que vão surgir de centros de pesquisa remunerados somente em função do potencial sucesso de vendas e que, ainda assim, resolverão os dilemas desse mundo (e.g.: clima, pobreza, doenças, escassez, economia, política, diplomacia… Podem escolher o seu veneno.).

Quem está pilotando a pesquisa de ponta da área é “quem quer vencer a corrida das drosófilas”. Ao invés de uma preocupação profunda com o domínio científico do tema, ainda que eventualmente ele não seja economicamente rentável, a preocupação absoluta de todos os players (meu!) é, number one above all: fazer dinheiro.

Se conseguimos entregar o resultado que deixa os consumidores babando, tanto faz se isso é “ciência de IA” de ponta ou só “raw power” (força bruta). Está vendendo bem? Então vamos de autocompletar sofisticado 2.0. Tem outras linhas de pesquisa, mas são caras e não viram produtos depois de alguns anos? Manda fechar o departamento. E frisando muito (porque eu amo meu emprego, ahem…) as palavras do Michael, nada disso quer dizer, sob nenhum aspecto, que não é um autocompletar brilhante, inédito, avassalador e com uma porção de casos de uso reais e úteis para o mercado.

Mas, salvar a raça humana dos seus próprios pecados, certamente é uma das últimas prioridades (se estiver na lista de P&D) dos times desenvolvendo para o que vem por aí no cenário das IA comerciais. O modelo não está – e nunca estará – voltado para o bem da humanidade, sem que isso possa se pagar. Não é maldade desta ou daquela companhia; é só como o capitalismo atual pensa. Custo vs. Benefício. Se um dia, por algum acaso, as IAs se tornarem tão comuns que sejam meros commodities da TI, como são sistemas operacionais hoje, aí pode ser que, indiretamente, elas trabalhem para causas abnegadas. Mas a criação desses sistemas com este foco inicial? Lamento, mas não creio.

E eu vou terminar com esse post por aqui. Porque já foi relaxante demais pra mim e estou com o braço esquerdo formigando enquanto tento clicar em “publicar”.

Se ao menos houvesse uma IA para me dizer se vai ser bom ou ruim para minha carreira se eu publicar isto…

Sobre a urna eletrônica

Não está fácil… Faculdade chegando ao fim, projeto do Trabalho de Conclusão (TC) em andamento, várias bibliografias para consultar, preocupações e ocupações com as matérias que, neste semestre, são em sete (isso mesmo: sete) …

E, por incrível que pareça, ainda trabalho pra viver. Significa que “tempo” é o commodity mais caro e mais escasso na minha vida. Já era, antes. Está pior, agora.

Todavia… Todavia… Há certos temas que não podem passar sem um comentário e este, então, não pode ficar sem comentário por tripla obrigação:

Primeiro, porque Direito Constitucional e Eleitoral são temas caros a mim, ao motivo de eu ter feito faculdade em primeiro lugar, e totalmente correlatos ao meu tema de TC.

Segundo, porque “urna eletrônica” tem forte ligação com minha formação superior original (qual seja: informática).

Terceiro, porque estão forçando a amizade para demonizar e minar essa ferramenta, de modo a desacreditar todo o processo eleitoral e (por consequência) democrático, num golpismo típico e do jeito que o atual presidente gosta. Os ataques não são gratuitos, tampouco espontâneos. Visam pôr dúvida se o resultado de 2022 será legitimo para que o aloprado fascista possa causar pânico e caos ao fim de outubro do ano que vem.

Permitir que absurdos e descalabros sigam sendo manifestados, porcamente, seja por ignorância ou má intenção de quem fala é incorrer no “Silêncio dos bons” do Doutor Martin Luther King…

Portanto, mesmo sem tempo (mais do que sempre), por uma questão moral, cidadã, de consciência… Aqui estou (mais um dia, sobre o olhar[…]) …

Espero que este texto esclareça algo pra você. Mesmo que seja do tipo “ainda não confio, mas, agora, pelas razões técnicas e certas”.

As benditas urnas

As urnas eletrônicas debutaram no Brasil em 1996 (eleições municipais). Tornaram-se o meio oficial de votação para todo o território em 2000 e, desde então, são o meio mais frequente de registro do voto, embora ainda haja a urna de papel quando uma urna eletrônica falha e não há correção viável. As definições sobre como a urna eletrônica será utilizada podem, em parte, ser encontradas na Lei 9.504/1997 (Lei das eleições), especialmente, do artigo 59 em diante.

Por mais que algumas pessoas ainda considerem “apressado” utilizarmos um sistema de contabilização de votos diferente daquele baseado em papel (seja porque o país tal não usa, seja porque o Brasil não é seguro para aplicar tal tecnologia e daí por diante), o Código Eleitoral (Lei 4.737 de 1965) já previa, em seu artigo 152, o uso de “máquinas de votar”. Obviamente, é razoável supor que se pensava em máquinas de perfuração de cartões, preenchimento da cédula automatizado e por aí vai, e não exatamente em um computador eletrônico destinado a isso – até porque não era uma realidade. Mas, o que me faz comentar isso é que nossa sociedade não pareceu particularmente incomodada com a ideia de máquinas mecânicas preenchendo a cédula. Ao que parece, o problema maior é o fato de não “vermos a cédula” no modelo atual… Mas, vamos devagar…

Sendo mais técnico (eu sei que você contava com isso), “urna eletrônica” é um termo popularizado, mas impreciso.

No mundo “urnesco”, a maquininha utilizada no Brasil é chamada de “máquina de votos DRE” (Ou “CVE” – coletor de votos eletrônico – em português). DRE significando “Direct Recording Eletronic”. Ou seja, o nome técnico da urna eletrônica é “máquina de voto com gravação eletrônica direta” (em tradução livre).

As “máquinas DRE puras”, dentro dos sistemas eletrônicos de voto (porque há máquinas de votação mecânicas, por exemplo), são classificadas como máquinas de votação de primeira geração.

Depois, há máquinas que usam o VVPAT (“Voter Verifiable Paper Audit Trail”) ou “Papel verificável do eleitor com trilha auditável” (em tradução livre). Essas são classificadas como máquinas de segunda geração. Outra sigla que pode surgir é a IVVR (que significa “independent voter-verifiable record”, ou “registro independente verificável pelo eleitor” [tradução livre]).

Quando falamos nessa segunda geração, na prática, ou a máquina VVPAT computa o voto eletronicamente (igualzinho ao nosso sistema atual), mas antes de computar, imprime as escolhas do voto por um sistema independente do principal para que o eleitor possa confirmar o que a urna eletrônica irá computar (o eleitor não toca na cédula, só vê) e então, o eleitor confirma o voto, o sistema deposita em uma urna tradicional (que servirá como forma adicional de auditoria) e o eleitor vai ser feliz. No segundo modelo, o IVVR – o eleitor registra seu voto na urna eletrônica, esta computa (na hora) e já imprime uma via física (sem prévia conferência) para depósito em urna tradicional, e que será usada em auditoria aos resultados encontrados no sistema eletrônico IVVR. A diferença entre VVPAT e IVVR, então, reside em se o sistema imprime, confirma e computa, ou computa e imprime (não é tão simples assim, se você ler as referências, mas vamos em frente porque a ideia é ser claro e não complicar o que já é turvo para muita gente).

Há outra penca de tecnologias (scanners ópticos [como os da Mega Sena], joysticks para a seleção do candidato e a confirmação da foto [como num videogame], perfuração de cartão, cédula eletrônica [você “escreve” nela, como numa tela de tablet], e híbridos de tudo isso), variando de sistemas totalmente mecânicos a protocolos online (transmissão em tempo real). Não poderia passar por todos eles. Mas DRE, com e sem IVVR ou VVPAT são os típicos sistemas na discussão mundial.

Talvez, a primeira bobagem a se combater e que os celulares (smartphones), carros e outras tecnologias devem ter incutido em nós é automaticamente significar que “de primeira geração” é necessariamente pior que “de segunda” ou “terceira geração”.

Deixe-me compartilhar um exemplo de como isso não é sempre uma verdade incontestável: Os roteadores Wi-Fi banda AC (frequência de 5GHz – até 1.2Gbps de velocidade) têm performance superior aos modelos N (2.4GHz – 150~450Mbps) e são mais novos, mais caros e mais complexos. Ocorre, porém, que em estruturas prediais com muito concreto, muitos vidros com blindagem para raios UV etc., roteadores AC não alcançam o que roteadores N alcançam em termos de cobertura e estabilidade. Agora, você pode ficar tentado a dizer “eu sempre prefiro velocidade ao alcance”, mas, para consumir sua internet fibra de 50Mbps, você prefere uma sólida conexão N de, no mínimo, 150Mbps, ou uma conexão capenga de 1.2Gbps que falha o tempo todo? Eu sei a resposta que me agrada mais.

É claro que antibióticos de 5ª geração são mais eficientes e causam menos colaterais que antibióticos de 1ª geração. Também é claro que processadores de 7ª geração fazem mais e são mais rápidos do que aqueles de 3ª geração. Não quero maquilar a realidade. O que quero é que você, como “arquiteto(a) de sistemas” entenda o sentido de “adequação da tecnologia ao propósito”. No mundo da tecnologia, as coisas sempre podem ser mais caras e mais complexas. Sempre. Cabe ao sujeito (ou sujeita – hehehe…) informado(a) escolher aquilo que, dentro de seu orçamento e requisito, melhor atende ao propósito de aplicação a que se destina.

Falamos disso, aqui… Se perguntarem ao cidadão com medo da violência sobre o que ele quer, ele dirá que quer um tanque de guerra na rua da casa dele, 24h por dia. A pergunta que pessoas racionais devem fazer é “vale o investimento?”. Por que pagar R$15.000,00 (quinze mil reais) em um notebook gamer, de presente, se sua mãe só quer mesmo acessar o Facebook (e ler fake news)?

Enfim, não quero me estender demais. O que quero deixar claro é: máquinas de votação (as populares urnas eletrônicas) DRE são uma realidade antiga (portanto, razoavelmente consolidada), com uso inicial na Índia, em 1990, e na Holanda, em 1991, chegando ao Brasil em 1996, e sendo o padrão a partir dos anos 2000 por aqui. Há outras tecnologias, mais complexas, mais caras, mais isso e mais aquilo. Resta saber se precisamos disso e qual é o objetivo. Não vale dizer “porque é mais seguro”. É preciso apontar onde está a insegurança no caso concreto, sem recorrer a hipóteses sem fundamento, mas com provas reais, hoje.

Como fontes desta seção, eu poderia lhe apontar o (bem-intencionado, mas cheio de links quebrados [me ajuda aí, TSE!]) site do TSE (Tribunal Superior Eleitoral) sobre as nossas urnas, ou o artigo em português da Wikipedia, mas eu sei que se você é um(a) paranoico(a), você só vai confiar em fontes externas ao Brasil. De preferência, em inglês, não é mesmo? Claro… Então, aqui (Verified Voting – Equipment database) está uma fonte de consulta para tudo o que eu disse nesta seção, feita toda em inglês para você levar a sério. Se uma fonte em inglês não basta, tome este glossário (Carnegie Mellon University), também em inglês. Boa leitura.

Portanto, nossas máquinas de votação DRE (as “urnas eletrônicas” ou “CVE”) não são uma realidade inventada pelos maliciosos brasileiros, sempre cheios de artimanhas e ardis, sendo tais máquinas odiadas e inaceitáveis no resto do mundo civilizado. O que nos leva à próxima seção.

Só o Brasil usa urnas eletrônicas. Se os Estados Unidos não usam é porque não é seguro…

Quando as pessoas decidem falar bobagens, raramente elas conseguem parar na primeira… É uma compulsão. Você tem que falar algo completamente desprovido de sustentação e, aí, num ímpeto de não controlar a própria língua, é preciso – por razões que jamais compreenderei – que você dobre a aposta. É assim com 99.9% dos “especialistas” comentando na Internet. Não é diferente com os detratores da urna eletrônica.

Não há bobagem MAIOR do que dizer que só o Brasil “caiu na mentira de urnas eletrônicas”. Por aí, andam dizendo que só o Brasil, Cuba e Venezuela confiam no sistema. Mais bobagem. Mais cota no “tempo de palanque para lunático” consumida.

Atualmente, pelo menos 40 (quarenta) países utilizam algum tipo de tecnologia eletrônica em votações para cargos eletivos (às vezes nacionais, às vezes regionais).

“Mas e o DRE?! Quem usa?”… Bem, 17 (dezessete) países utilizam sistemas eletrônicos de votação, com ou sem IVVR/VVPAT (com ou sem leitura óptica). Entram na lista: Canadá, Japão, França e Suíça…. Sim… Que coisa né… Devem ser países de democracia muito frágil, dado o uso dessa tecnologia…

A outra parte dessa questão é “se as máquinas produzidas no Brasil são tão seguras, por que ninguém compra de nós?”. Aqui, o problema é diverso em possibilidades. Via de regra, qualquer país capaz de produzir tecnologia preferirá produzir “em casa” um sistema que decide quem será o presidente do país por 4 ou 5 anos, do que comprar esse sistema de outra nação. Esse conceito se chama “não fique na mão de outra nação”. As possibilidades vão além: Pode ser que com a carga de tributos, as máquinas brasileiras sejam muito caras, pode ser que não tenhamos sido muito bons em vender nosso produto lá fora (tivemos dificuldade de emplacar a máquina no Mercosul, em um punhado de oportunidades), e pode ser que a população de lá seja tão teimosa quanto a daqui; ao ler que os brasileiros não confiam na máquina DRE feita no Brasil, por que eles confiariam?

Aí, vem a bobagem suprema: “Os EUA não usam! Logo, é inseguro!”. Amiguinho(a)… Os EUA podem ter muitos motivos pra se orgulhar na recente história da tecnologia e da democracia. Mas se tem uma coisa que os EUA precisam colocar o rabo entre as pernas e voltar pra casinha fazendo “caim! caim!”, essa coisa se chama “sistema eleitoral estado-unidense”. É uma vergonha, do início ao fim. Para uma democracia sólida e madura, fonte de inspiração para o mundo, poucos países democráticos apresentam os graves defeitos do modelo estado-unidense que, de largada, não é federal, mas estadual (e eles têm 50 legislações eleitorais, cada uma com suas extravagâncias [Porto Rico não vota para o Congresso Nacional, nem para presidente dos EUA]). Aliás, a recente luta de Republicanos, nos EUA, é para que menos eleitores votem (uma eleição que já ocorre em dias úteis, em vez de um feriado nacional, o que maximizaria a participação popular); país onde certos grupos têm mais dificuldade de se habilitar como eleitores do que outros.

Então, da próxima vez que alguém te disser “os EUA não usam urna eletrônica”, manda a pessoa ir carpir um lote. Podem ser exemplo para outros pontos, mas em matéria de legislação eleitoral e eleição democrática (o que, nesse contexto, significa “direito de todo mundo votar”), o tio Sam deve sentar de face com a parede e vestir o chapéu de burro (SE… supormos que isso não é mal-feito de propósito, claro…).

E de onde vem essa informação sobre os países que usam sistemas eletrônicos? Vem do IDEA – (International) Institute for democracy and electoral assistance. Um observador oficial da ONU. Instituição de baixa reputação, sabe? Só que não.

E sobre os EUA e seu terrível sistema eleitoral, qual a fonte? Aqui, aqui e aqui. Só para aguçar seus sentidos vou deixar a primeira manchete estática: “American elections ranked worst among Western democracies. Here’s why.”. Em bom português: “Eleições estado-unidenses ranqueadas como as piores entre as democracias do ocidente”. E, não obstante o meu horror a quem confia cegamente em manchetes, acho que essa é segura (nunca pare em manchetes. Leia as fontes. Não confie em jornalistas, nem em mim, nem no YouTube ou Google. Leia e procure o mesmo assunto em outros locais, com reputação verificável). O sistema norte-americano de eleições é o pior do mundo democrático ocidental. Quem entende alguma coisa de “democracia & voto” não cai nessa conversa sobre a eterna superioridade do tio Sam em qualquer tema.

Portanto, não: de todas as jabuticabas que o Brasil já criou, a urna eletrônica não é uma delas, tampouco restrita a países antidemocráticos como Cuba e/ou Venezuela. Não se vende urnas made in Brazil por várias razões; compartilhei algumas hipóteses. E quando alguém argumentar que “os EUA não usam”, manda pastar, por mim.

You Always fear what you don’t understand…

Se você não fala inglês, o título não poderia ser mais adequado.

Ele foi tirado do magnifico filme “Batman Begins”, de 2005, dirigido pelo grande Cristopher Nolan, com Christian Bale como o Cavaleiro das Trevas e Tom Wilkison como Carmine Falcone, um chefe da máfia que assola Gotham City. A frase, em inglês, é dita pelo último.

Em português, ela fica mais ou menos assim: “Você sempre teme o que você não entende”.

Falcone tem total razão. O principal motivo pelo qual as pessoas deste país, em boa medida, desconfiam da urna eletrônica é porque elas não entendem patavina sobre Tecnologia da Informação. E você sempre teme o que você não entende. Essa é a história da raça humana, infelizmente.  “Infelizmente”, porque pessoas assustadas podem apenas chorar. Mas, elas também podem cometer loucuras em função do medo que as domina. Grandes atrocidades foram cometidas em nossa breve História, basicamente, em função do medo do desconhecido.

E, por que as pessoas temem a urna eletrônica? Porque elas não entendem como aquilo funciona. Estão (na larga maioria dos argumentos) equivocadas em cada afirmação que visa atacar o equipamento e o sistema de um modo geral.

Por exemplo:

A afirmação de que um hacker, na Rússia, pode invadir a urna (ela não fica ligada à internet);

De que um eleitor pode votar em duas sessões (o código do eleitor é gravado no cartão eletrônico da urna que ficará na seção do eleitor, e em mais nenhum outro cartão. Não há como ele votar em mais de uma seção ou colégio eleitoral);

De que as urnas já saem do TSE/TRE com os votos preenchidos (ilógico, já que ao começar a votação a zerésima é gerada e distribuída aos fiscais dos partidos políticos, e outro relatório [o BU] é emitido ao final… Se o número de pessoas que frequentou a seção for adicionado “ao número que vem de fábrica”, a conta será maior do que o número de assinaturas nos livros de controle).

E por aí vai.

Mas, vamos ainda mais devagar: se você quer mesmo entender, em detalhes, como o sistema de urna eletrônica no Brasil funciona, recomendo a leitura do relatório que a Unicamp (Universidade estadual de Campinas) produziu, lá em 2002, com cinquenta e uma páginas ao todo. Nele, especialistas em ciências da computação e áreas correlatas (engenharia elétrica e eletrônica) se juntaram e se debruçaram, não só sobre o hardware (parte física) da urna, mas sobre seu software (o programa que ela executa), seu firmware (um “pré-programa” que não está lá para fazer a função principal, mas intermedia a conversa do software com o hardware), as instruções passadas para o mesário, as normativas emitidas pelo TSE para organizar a seção eleitoral, o sistema de transmissão e contabilização dos votos em cada seção(…), tudo… São nada menos do que trinta e sete itens vistoriados pelo corpo de análise montado pela Unicamp (e vale dizer: não há universidade brasileira mais respeitada em Ciências da Computação do que esta. Cinco dos mais respeitados cientistas da área, no Brasil, dão aula no IC/Unicamp). Vale destacar que o foco do trabalho não era de auditoria, mas, de avaliação e sugestão de melhorias (sugestões que foram, em parte, incorporadas aos modelos subsequentes) para o sistema de eleição eletrônico.

AVISO: Daqui em diante, eu vou tentar explicar a arquitetura do SIE (que é o Sistema Informatizado de Eleições, no Brasil) … É EVIDENTE que algumas simplificações serão feitas. Eu quero que o texto fique num tamanho aceitável (lembrando que esse blog já é conhecido pelos textos ultralongos); também quero que pessoas alheias à área da computação consigam sobreviver ao texto e chegar ao fim dele com algum entendimento do que foi dito.

Se você quer discutir detalhes, minúcias, aspectos muito técnicos, manda um comentário, chama no privado, ou simplesmente leia a p%@^! do documento da Unicamp, integralmente. Obrigado. 😊

Entendendo o SIE (Sistema Informatizado de Eleições)

Aqui vamos nós. O SIE é o sistema nacional de eleições apoiado em máquinas DRE (nossas urnas eletrônicas).

Ele compreende a urna eletrônica em si, mas também os sistemas de preparo do software para instalação na urna, de impressão de relatórios, de transmissão dos resultados para computação centralizada no TSE; toda a arquitetura (criptografia [que é o embaralhamento dos dados a partir de um “arquivo-segredo” {certificado}], validações, auditorias) e infraestrutura (firewalls, rede, processos) desse sistema.

Sobre a urna

A urna eletrônica, tal qual um processador ARM (que seu celular utiliza), é uma receita de bolo. Ou seja: não existe uma empresa ou um produto chamado “ARM”. Existe uma especificação e quem quiser licencia o uso e fabrica um chip de acordo com essa especificação. Com a urna brasileira é quase a mesma coisa. O TSE específica o que espera do equipamento em edital público e empresas concorrem para montar os equipamentos, conforme a especificação do TSE. A urna não é um produto de prateleira, portanto.

Tivemos a Unisys em dois editais, mas a parceria Diebold-Procomp é disparada a campeã na fabricação das urnas brasileiras.

Anatomia de uma urna eletrônica

Ela tem, basicamente, dois componentes: o terminal do eleitor (a telinha que todos nós conhecemos) e o terminal dos mesários (onde eles colocam os dados do eleitor para validar que ele pode mesmo votar naquela seção, e a urna é monitorada [se está pronta para o voto, se tem alguém votando, se está na bateria, se o software é oficial ou de treinamento…]) – Não… O terminal do mesário não consegue violar o sigilo do voto. Recentemente, com a biometria (leitura da digital em nossos dedos), o terminal do mesário passou a fazer o escaneamento do dedo do eleitor, também.

A frente da máquina, todos os eleitores conhecem = Tela, teclado numérico e três botões (Confirma, Corrige e Branco). Então, vamos falar da parte traseira.

Créditos da imagem: TSE.jus.br

Atrás da urna, há uma impressora de bobina (2), estilo “caixa-registrador” (usada para emitir os relatórios em papel, no início [zerézima] e fim [o BU = Boletim de urna] do período de votação). Ela tem uma porta USB com um pendrive já instalado (1), onde os resultados para envio ao TRE/TSE são gravados. Dois slots de memória flash(9) (sendo um de acesso interno [é preciso abrir a carcaça] e outro externo) por onde o sistema da urna é carregado e os dados da votação vão sendo armazenados ao longo do dia (antes de serem criptografados[embaralhados] e gravados no pendrive (1), ao fim da sessão eleitoral). O fato de se utilizar 2 flashcards já é uma das medidas de segurança, pois o software da urna compara os votos que estão sendo gravados entre os databases (bancos de dados) nos diferentes cartões. Ela tem 2 USBs (10 e 12) usadas em caso de manutenção, sendo lacradas e parafusadas durante a operação normal. Uma saída de fone de ouvido para deficientes visuais (11), sendo a única interface na traseira que não é lacrada em dia de operação. Uma saída de energia CC (14) para alimentar eletricamente algum módulo externo, se preciso. Uma chave liga/desliga (6) sendo que nas mais novas é um botão verde/vermelho. Há uma bateria interna (8). Os demais números são bobagens como “parafuso”, “cabo AC” (energia elétrica) e por aí vai.

Se você ler a documentação da Unicamp, notará que ela fala em drive de disquete 3,5”. Esqueça isso. Desde a década de 2010 já é utilizado um pendrive como receptor dos resultados em todas as máquinas. Esse pendrive também tem seu conteúdo criptografado e assinado digitalmente, sendo preenchido só ao fim do dia/operação.

Portanto, para que um hacker possa inserir um programa malicioso na urna instalada na cabine de votação, ele terá que, de algum modo, acessar a parte traseira da urna (que fica exposta para os mesários), desparafusar e romper lacres, inserir o programa, talvez reiniciar a urna (para que ela leia o pendrive ou flashcard) e, nos dois ou três minutos que tem para votar, sair dali sem algemas.

Mas, vamos supor que ele queira hackear via sinal wifi, partindo do celular dele. Bem, a urna não tem qualquer placa de rede, nem por cabo, nem wifi (802.11xyz ou bluetooth). Logo, não há comunicação via sinal de rádio com ela. Talvez, ele tenha descoberto como apertar uma sequência de dígitos e botões no teclado da urna? Até a presente data, ninguém conseguiu hackear nosso sistema por essa interface (o teclado dela). Pode ser que alguém consiga, claro. Mas, ainda não há notícias de técnicas assim ao longo das ~duas décadas de uso delas.

O TSE é o dono do esquema eletrônico da urna (há disputas por patente na Justiça, mas, isso não vem ao caso). Os fabricantes precisam produzir a urna exatamente como manda o edital (como seria com alguém que quer fazer um processador ARM, mas aqui, com mais rigor quanto ao resultado). Depois de feita a placa, ela tem de ser homologada pelos técnicos do TSE… Então, qualquer microchip introduzido “a mais” no desenho da placa deve ser detectado na fase de inspeção do hw (hardware).

E se o hacker tentar acessar o cabo serial que liga o terminal do mesário à urna (para alguma técnica de hackeamento)? Bem, os cabos são ligados diretamente nas placas internas (não há conector; é solda) então, possivelmente, ele vai quebrar a bagaça toda no processo de tentar acessar o filamento.

Resta, assim, hackear seu software ou firmware antes destes serem distribuídos pelo TSE. Ou na fase de inseminação… O que nos leva ao próximo ponto.

Anatomia do código executado nas urnas (software/firmware [sw/fw])

A urna tem seu firmware (aquilo que se chamava de BIOS e agora, U/EFI) desenhado com memórias EEPROM (que não se apagam com a falta de energia) que validam, com chaves criptográficas públicas, que elas não vão executar um software que não foi assinado com a chave privada do TSE, além de controles para proibir que a urna carregue um sistema pelas outras portas que não a dos flashcards; claro, como todo fw, ele também controla as operações básicas do teclado e monitor da urna. Esta é uma parte das camadas de segurança para garantir que a urna inicialize o software aprovado pelo TSE, ou não inicialize nada.

Todo o código-fonte (que representa o programa em seu formato de texto) é assinado digitalmente por um certificado público guardado no TSE.

E você pode perguntar “como funciona assinatura digital de um documento (seja um e-mail, seja o código-fonte de um sistema)?”…

A assinatura digital é um processo em que um sistema faz algum tipo de contagem de todos os caracteres e seus valores, e essa “soma” (há mais de um jeito de fazer isso) resulta no que chamamos de hash. O hash é, então, assinado digitalmente com um segredo gerado via um certificado (é uma espécie de arquivo) que contém a chave privada (no caso do SIE, esta chave só existe num sistema de computadores dentro do TSE). A chave pública é outro certificado (arquivo) e, como o nome sugere, é conhecida por quem precisa dela (sistemas dos TREs, sistemas que preparam as urnas, as próprias urnas etc.). Com a chave pública pode-se acessar o segredo feito com a chave privada, mas, não é possível gerar um novo segredo; apenas ler o que foi criado com a chave privada.

Uma rápida explicação técnica: assinar digitalmente e criptografar um arquivo (ou todo um sistema) são operações distintas, embora ambas sejam feitas com uso de um certificado (90% das vezes) que contém chave pública e privada (esta última só costuma existir na origem do arquivo). Assinar digitalmente só garante que o conteúdo é autêntico, mas não protege o conteúdo de quem o obtiver. Criptografar é embaralhar os dados, de modo que só quem tem a chave pública pode ler o que foi criptografado com a chave privada. Porém, a criptografia atinge, indiretamente, a capacidade de provar a autenticidade de um documento: se você conseguiu desembaralhar o documento usando a chave pública que eu te dei, quer dizer que ele foi embaralhado com a chave privada que só eu possuo.

Logo, o que se consegue é a garantia de que o código-fonte que foi aprovado pelo TSE é exatamente o mesmo que está sendo instalado nas urnas. Se o hash bate e este hash é assinado digitalmente, a única forma do código ter sido maliciosamente produzido é com alguém de dentro do TSE usando a chave privada para assiná-lo, ou com um hacker extraviando essa chave do seu sistema original (há várias medidas para que isso não ocorra; a primeira é que essa chave não fica em um computador ligado à rede de computadores do TSE). Claro que essas duas últimas hipóteses são possíveis (quase tudo é possível). Não quer dizer que isso seja fácil de ser feito, muito menos que essa chave privada fica no computador da mocinha da portaria do TSE, enquanto ela baixa filme pirata e acessa o WhatsApp web.

De outro lado, o sistema de instalação da urna (chamado pela documentação de SIS – Subsistema de Instalação e Segurança) não permitirá a carga de um sistema operacional (“OS” em inglês, ou “SO” em português) que não esteja em conformidade com a chave pública fornecida ao SIS. Tampouco a urna aceitará executar um código que não coincida com as chaves gravadas em seu firmware.

Todas as urnas do Brasil (são aproximadamente quinhentas mil seções, cada uma com pelo menos uma urna [há seções com duas ou três]) executam o mesmo SO. Não há diferença nesse código.

Ao saírem da fábrica, elas não têm nem o SO, nem os dados da seção que irão atender. Então, numa fase denominada “inseminação da urna”, o SIS (software instalado em uma máquina oficial no TRE, ou numa cedida ao polo de preparo das urnas) instala tanto o SO da urna, quanto a tabela de candidatos e eleitores disponíveis para aquela seção (por exemplo: Na minha seção não há candidatos pelo estado do Amapá, e também não há eleitores com deficiência, ou com a letra inicial “A” [apenas exemplos]). Assim que o SIS termina a instalação, a urna é lacrada (todas as portas, exceto a de áudio, como já dito), empacotada e vai para a caixa de papelão, onde ficará sob vigia até o transporte para o dia e local de votação. Seu número serial (gravado naquelas memórias EEPROM) é cruzado com o número da seção para a qual ela se destina e gravado no sistema do TSE. Logo, a urna 1234ABC não pode enviar votos para o sistema centralizado (ao final do dia), em nome de uma seção eleitoral para a qual não estava previamente cadastrada.

O SIS foi projetado para dar uniformidade na instalação, consistência dos dados, segurança do código instalado e várias outras medidas. Este seria um ótimo ponto de ataque, contudo, vale lembrar que o EEPROM, dentro da urna, tem sua própria cópia do certificado público e este não é manipulado pelo SIS. Se um hacker consegue acessar o EEPROM da máquina para reprogramá-lo, significa que ele está com acesso físico à urna… Neste caso, por que você tem medo da urna eletrônica e não tem medo da urna de papel? Se um hacker conseguiu acessar a parte interna da urna eletrônica, reprogramar um chip, instalar um SO hackeado com código malicioso e relacrar o equipamento para que ninguém perceba a fraude, ele não conseguirá abrir a urna de papel e trocar todas as cédulas de papel por outras que ele fez (ou deram pra ele)? Esse é o seu medo? Sério?

O SIS gera um flashcard que instala o SO na urna (copiando seus dados para o flashcard interno). Depois que esta valida a assinatura do código apresentado, o primeiro flashcard é removido, a urna é desligada e fica pronta para receber outro flashcard com os dados de eleitores e candidatos, mas este segundo flaschard com os dados de candidatos e eleitores é destinado só ao dia da votação. Se uma urna quebra, a reserva pode ser inseminada com este flashcard, mediante registro do novo serial de urna atrelado à seção de votação.

Quando o SIS termina de gerar o flashcard externo “de votação”, este é inseminado (daí o nome da fase) na urna pela porta número 9 da imagem anterior, e a urna fará toda uma rotina de validação do conteúdo, vai verificar se a assinatura do conteúdo bate com a chave que ela tem na EEPROM (e que saiu preenchida de fábrica), e vai inicializar o flashcard interno. Esse flashcard interno, como já dito é usado em várias operações de segurança onde a urna compara resultados e faz um “double-check” de tudo que está acontecendo durante a execução. Há logs de segurança, e parte desses logs é registrado em outro chip, dentro da máquina, por redundância.

A cerimônia de assinatura

O código-fonte distribuído pelo TSE não é simplesmente assinado numa quarta-feira depois do almoço, e fim de papo… Há uma cerimônia com data e hora previamente conhecidas, e aberta aos interessados, especialmente, aos representantes de cada partido político nacional. Esses partidos podem mandar técnicos para acompanhar o processo, bem como os partidos podem, inclusive, ter acesso ao código-fonte da urna (que é baseado em open-source/código aberto) para revisá-lo e apontar eventuais falhas, antes dessa cerimônia.

Quando todos os representantes estão satisfeitos, o código é compilado (= deixa de ser texto e passar a ser um executável) em um computador isolado e sem acesso externo. Nesse momento, as chaves criptográficas são inseridas definitivamente (a empresa que ganhou o edital e desenvolveu o código do SO não tem a chave privada que o TSE usará e não terá em momento algum. Esta empresa utiliza uma chave privada própria, só para fins de testes, mas essa chave é substituída no código do SO com a chave oficial nessa fase), e são essas chaves que determinarão se o código compilado foi alterado desde esta cerimônia até o dia da eleição. A urna, como já dito, sai com a chave pública que deve “bater” com a chave privada para que o sistema possa ler o hash e concluir que o código pode ser executado (ou não).

Todo o código gerado pelo SIS passa por 2 mecanismos de criptografia (em 2002 eram o MD5 e o Assina [Microbase]), gerando uma criptografia de 256 bits. É bem seguro, se você não entendeu nada. Se um arquivo for modificado pelo hacker, mesmo que em apenas uma letra, sem que um arquivo CRC e outro SIG sejam criados a partir de uma chave criptográfica válida (e só o TSE tem a chave privada), os sistemas, tanto do SIS, quanto da urna, detectarão a mudança.

A distribuição dos softwares para preparo da urna

Como dito, o SIS é responsável por gerar a mídia que vai formatar a urna com o SO aprovado, bem como gerar o flashcard com os dados de eleitores e candidatos habilitados numa dada seção eleitoral.

E se esse software for corrompido? Já em 2002 (data do documento da Unicamp), a transmissão se dava sob criptografia do instalador do SIS (usando o algoritmo IDEA-128, bastante adequado àquela altura). A transmissão se dava por protocolo SFTP ou mídia física (CD). Logo, havia um bom controle de distribuição, em 2002. Não tenho razões para crer que essa segurança piorou, ou mesmo continuou como naquele tempo. Atualmente, é provável que eles utilizem transmissão por HTTPs ou outro meio privado (como um link MPLS, que não passa pela Internet). Mas, não tenho os detalhes porque não achei documentação técnica sobre a atual arquitetura. Isso não necessariamente significa que há obscuridade maliciosa. É natural que as empresas e órgãos governamentais não fiquem divulgando detalhes de sua arquitetura interna, o que ajudaria um hacker a se preparar melhor. Possivelmente, há melhores informações para os partidos políticos e outros legitimamente interessados.

Resta saber se eles têm competência para avaliar o que receberam. Na minha experiência com auditorias de terceiros sobre software de um dado fabricante, a maioria dos terceiros não tem qualificação técnica para entender o que recebeu em mãos. O sujeito começa a olhar o código-fonte e não sabe nem se é de comer ou de passar no cabelo. Aí, pra disfarçar a ignorância, inventa teses furadas sem, contudo, ser capaz de demonstrar onde o problema está… Digressão de minha parte… Voltando…

O software SIS precisa ser enviado aos TREs e polos para preparar as urnas para a eleição. Ele modifica o sistema operacional Windows, transformando a máquina instalada com ele em um “novo computador” com funções e acesso restritos… Não é possível baixar o MicroTorrent no computador SIS, nem assistir aquele pornozão básico (ou só acessar um site de notícias) nessa maquina alterada pelo SIS. A finalidade da máquina com o SIS é restrita a somente preparar as urnas (SO) e gerar os flashcard com eleitores e candidatos por seção.

A transferência do BU (boletim de urna) para o TSE

Bem, esta é a parte mais crucial, pois, é a única vez em que o resultado da urna poderá passar por um meio de transmissão público. Até aqui, este resultado só existia dentro do hardware da urna. Sem que o BU seja encaminhado ao TSE, não há cômputo dos votos registrados naquela seção.

O BU só é emitido ao final da votação de todos os eleitores daquela seção, ou ao final do horário limite para a votação (o que vier primeiro). Por este motivo, vemos que mesmo antes das 17h, algumas estatísticas de votação já começam a aparecer no noticiário. Imagine que a seção é nova e tem apenas 100 eleitores e que todos vão votar na primeira hora da manhã (um milagre que mesário nenhum jamais viu, coitado…). Neste caso, a urna emite o BU em papel (pela impressora de bobina), este é afixado na porta da seção e fotocópias são distribuídas aos fiscais dos partidos interessados (que já podem iniciar contabilizações paralelas e auditorias próprias).

Então, o BU é criptografado (não porque seja sigiloso, mas somente para garantir que o BU que a urna emitiu não foi trocado por um BU falso), gravado no pendrive (na porta número 1), o pendrive é removido da urna (com fiscalização dos profissionais do TRE) e então é encaminhado, seja para uma sala do colégio eleitoral com o software carregador (basicamente, ele se conecta ao TSE usando uma VPN (túnel criptografado, utilizando a internet), lê o arquivo, valida a integridade do BU, e envia este arquivo ao sistema totalizador no TSE); seja fisicamente transportado para um polo onde haja conexão com a internet (cenário comum no interior do Brasil). Ouvi dizer que havia um link via satélite entre TRE e TSE, mas sinceramente, não achei fonte confiável para isso. Além do mais, um túnel VPN já é muito seguro (pode ser bem mais seguro que sua conexão com seu banco, por exemplo).

Se o BU é enviado mais de uma vez, o sistema totalizador detecta e abre ticket de auditoria para garantir que todos os votos foram contabilizados. Isso pode ocorrer, por exemplo, por uma falha de rede em que o envio não foi completo (esta informação é de 2002. Não ficaria surpreso de saber que os sistemas atuais sequer permitem a duplicação de envio; mas, para mim, basta saber que há auditoria em caso de envio em duplicidade). Todavia, o BU de outra urna, ou o BU falsificado não serão carregados em nome de uma seção oficial. A criptografia que a urna gera e os dados anotados no BU oficial estão lá para impedir isso.

No ano de 2020, o TSE alterou a forma como os dados são totalizados, após recomendação da Polícia Federal. Anteriormente, os colégios e os polos concentradores mandavam os BUs para os TREs, e os TREs mandavam por uma rede privada (seria a rede via satélites?) para o TSE. Em 2020, todas as seções passaram a enviar os dados diretamente para o TSE via sistema desenhado para isso. Na ocasião, houve demora para divulgação do resultado, o que causou certa controvérsia sobre a possibilidade de um “ataque hacker” às eleições. O então Presidente do TSE, Ministro Luís Roberto Barroso, desmentiu o boato explicando que apenas houve um congestionamento inesperado nos canais de comunicação entre TSE e todas as mais de 500 mil seções (que deixaram de concentrar as BUs nos TREs) e sobrecarga no sistema de totalização.

Neste mesmo ano de 2020, houve um ataque ao site público do TSE, gerando a indisponibilidade do mesmo. Eu não creio – porque não faz nenhum sentido crer – que a rede de computadores que mantém o site público do TSE seja a mesma rede utilizada pelo sistema totalizador de votos, mas esta é uma arquitetura sobre a qual eu não tenho visibilidade e fica difícil dar garantias.

Conclusão do relatório da Unicamp e outros relatórios

O relatório da Unicamp termina do seguinte modo:

“O sistema eletrônico de votação implantado no Brasil a partir de 1996 é um sistema robusto, seguro e confiável atendendo todos os requisitos do sistema eleitoral brasileiro”

E

“Assim, acredita-se que, a partir da experiência acumulada pelo TSE e partidos políticos na implantação do voto eletrônico e a partir da contribuição da comunidade científica e dos setores organizados da sociedade, é possível o aprimoramento do atual sistema e a consolidação dos processos de votação e totalização eletrônicos que se configuram como um enorme avanço no processo eleitoral brasileiro, principalmente quando confrontado com o uso de cédulas de papel e urnas convencionais.” (grifo meu).

O relatório de 2002 fez sugestões de melhorias em vários pontos, inclusive com críticas construtivas sobre auditoria independente, ou mesmo sobre uma mudança no design de validação dos dados enviados pelo teclado ao FW/SO. Mas, como o próprio relatório explica, é difícil imaginar que alguém possa explorar possíveis vulnerabilidades diretamente em contato com a urna, já que teria que abrir o equipamento para adulterar o funcionamento do componente.

O verdadeiro risco de adulteração é realmente na fase de criação do software e da assinatura deste com a chave privada, ou no envio dos BUs ao TSE. No primeiro caso, como demonstrado, contudo, isso não é algo trivial e não se pode fazer com uma única urna. O ataque teria que ocorrer na data em que o TSE “empacota” o software da próxima eleição, e teria que ser feito no computador onde isso acontece – computador que não está ligado à internet. Impossível? Não. Nada é impossível. Ainda mais no Brasil… Mas, altamente improvável. Há formas mais baratas de se manipular uma eleição e nós já vimos isso ocorrer no passado recente das Américas (volto a esse ponto, mais à frente).

Tal relatório foi pivô de polêmicas entre os detratores da urna e o TSE, porque destaca aspectos negativos sobre a independência de auditoria por agentes externos ao TSE, ponto que os críticos afirmam jamais ter sido sanado.

Esse não foi o único relatório produzido com o intuito de validar ou auditar o sistema de eleição eletrônico brasileiro:

No mesmo ano (2002) em que a Unicamp fez o relatório sob encomenda do TSE, o PT encomendou relatório público à UFRJ; embora não consiga apontar falhas, os autores reclamam da “imaturidade do modelo de desenvolvimento de software”, mas não apresentaram nenhuma falha que pudesse ser explorada.

Em 2003, o TSE pediu novo relatório público à UFMG e UFSC. O relatório apontou a possibilidade de que o segredo do voto fosse quebrado com a arquitetura proposta, e apoiou a impressão do voto como forma de aumentar a confiabilidade no sistema. Não relatou como fraudar o resultado da urna.

Em 2004, a associação BRISA forneceu relatório secreto ao TSE. Obviamente, não tenho como apurar os achados.

Em 2006, o PTB-AL encomendou relatório público de um professor (e apenas um) do ITA. Este professor afirmou que poderia haver “contaminação” nos resultados de Alagoas, mas dada a característica do estudo, focado em urnas do estado de Alagoas, com apenas um pesquisador escolhido a dedo, opto por descartar esse relatório. Não se faz ciência com base na opinião de apenas uma pessoa, não importa o quão competente ela seja. Já discutimos isso antes.

Em 2008, o TSE encomendou relatório secreto ao CTI-MCT. Conclusão: idem ao outro relatório secreto.

Em 2009, o próprio comitê multidisciplinar do TSE emitiu relatório público. Na conclusão, disseram: “A proposta de impressão do voto conquista corações e mentes pela simplicidade, tangibilidade do papel e pela aparente facilidade de combater fraudes. O fato de que o uso de criptografia e mecanismos sofisticados tecnologicamente não serem entendidos pela maioria dos eleitores, candidatos e público em geral, não diminui os benefícios que essas ferramentas modernas trazem para a segurança das eleições”.

Evidentemente, eu não esperava que o comitê do próprio TSE fosse contrário ao sistema defendido pelo Tribunal; pelo menos, não de maneira veemente. Contudo, acompanho a opinião geral de porquê há tanta crítica ao vigente sistema: desconhecimento.

Em 2010, o relatório público CMind, formado por 10 profissionais de várias áreas (direito, computação, engenharia, jornalismo) que criaram um comitê para avaliação da segurança do voto digital, foi bastante crítico ao relatório do ano anterior, emitido pelo TSE. Para eles, o sistema é repleto de falhas e imperfeições que o TSE se omite em endereçar. Contudo, o relatório não apresentou uma forma de hackear a urna, dentro da seção eleitoral. Também, não explicou como o sistema de transmissão do BU poderia ser manipulado para apresentar um resultado falso no lugar de um legítimo. Não quer dizer que suas críticas não sejam cabíveis. Mas elas estão, em grande volume, debruçadas nos procedimentos, na transparência, nas formalidades, e não são críticas que demonstram “como é fácil burlar a urna apertando as teclas x, y e z na ordem 2, 3, 1”…

Em 2012, um relatório público foi liberado pela Universidade de Brasilia (UNB), feito espontaneamente por esta. Esse relatório demonstrou uma técnica para ordenar os votos gravados na BU o que permitiria, em tese, quebrar o sigilo dos votos. Também, levantou a possibilidade de outras manipulações, mas não conseguiu demonstrar as técnicas, alegando que as regras do TSE impediram tal demonstração. Talvez, seja o relatório mais importante para o que discuto aqui (a segurança da urna eletrônica). Se não demonstrou como hackear a urna, colocou em xeque o segredo das votações, requisito indeclinável por força de mandamento constitucional (art. 14 da CF/88), e que nos protege de manipulações como a compra de votos ou a coação dos eleitores. Não tenho respostas de como o TSE endereçou esses achados.

O último relatório do tipo foi encomendado pelo PSDB em 2014, sendo realizado e publicado pelo mesmo CMind que fez o relatório de 2010. Nos achados, temos duas conclusões para destaque:

“pode-se concluir que a auditabilidade do sistema eletrônico de votação do TSE em seus moldes atuais é prejudicada por diversos fatores. O sistema não está projetado e implementado para permitir uma auditoria externa independente e efetiva dos resultados que produz[…]”

E

“Já com relação ao processo de transmissão e totalização dos votos, não foram encontrados indícios de fraudes ou de erros sistemáticos que pudessem alterar os resultados depois que estes saem das urnas eletrônicas.”.

Essa segunda conclusão é importante porque trás mais embasamento para o que eu disse sobre não temer riscos quanto ao sistema de transmissão dos BUs (a segunda parte onde poderia haver uma fraude, na minha opinião).

O que eu acho de todos os relatórios

O que eu acho não é importante. Na verdade, o que alguém acha não é nada importante neste mérito. O que realmente importa é a qualidade do material de análise, a validade técnico-científica dos testes, e seus achados (provas). As visões políticas, o uso de palavras mais ou menos arrojadas, retóricas mais ou menos fortes, nada disso é importante em relatórios dessa natureza (que deve ser técnica).

O que importa é se alguém conseguiu provar como hackear a urna, ou o sistema que contabiliza os votos. Esses são os jeitos óbvios de se fraudar uma eleição com urna eletrônica. E não vi nenhum relatório que demonstrou como fazer isso.

O que li foram críticas a um modelo que pode ser aperfeiçoado (como quase tudo em termos de instituições no Brasil), que pode ser melhor do que é, mas não li nenhum relatório que demonstrou, inequivocamente, como manipular os resultados das eleições brasileiras através da operação nas cabines de votação, dentro da seção eleitoral, ou interceptando o envio dos BUs ao TSE e modificando esses BUs. Nenhum teste foi capaz de corromper a máquina DRE brasileira em condições normais de uso (idênticas ao que o cidadão José [versão hacker] encontrará numa seção eleitoral).

E se, para hackear e manipular os resultados, os agentes maliciosos precisam abrir a urna, instalar outros softwares, acessar a sala de instalação das urnas, modificar programas de instalação, hackear servidores com canais de comunicação criptografados (em que a transmissão se dá em momento desconhecido e não em tempo real)… Meu amigo e minha amiga… Eu não sei porquê pensar que uma urna de papel poderia impedir a manipulação do resultado das eleições, diante de tamanha vontade, capacidade e disponibilidade de recursos.

São fontes para estas seções que escrevi, acima:

O relatório da Unicamp (possivelmente, o melhor documento para entender de onde partimos e para onde podemos rumar).

O artigo da Wikipedia sobre CVEs (coletor de votos eletrônico). Contém links (alguns quebrados) para os demais relatórios.

As auditorias das últimas eleições contendo o sistema de votação paralela (um teste em que urnas são sorteadas, removidas da seção, e auditadas por empresa contratada em uma sala com representantes dos TREs e partidos) para todos os estados do país.

A notícia sobre o motivo da lentidão na apuração de 2020 E a notícia que explica que a Polícia Federal recomendou a centralização, após perícia em 2018.

A apresentação geral da Urna eletrônica brasileira, feita pelo TSE.

Sabe onde teve fraude usando informática? Nas eleições dos EUA…

Estranho, né? Pois é…

O país que tem o sistema mais atrasado das democracias, onde tudo é feito do jeito mais arcaico possível… Foi atacado, ciberneticamente, nas eleições de 2016 e, possivelmente (pois, ainda se investiga), em 2020.

Sim, porque para manipular uma eleição em um dado país você não precisa fraudar as urnas em si. Basta você fraudar a verdade. Manipular as mentes das pessoas, tão dependentes de redes sociais para se (des)informarem.

Não é preciso invadir a urna, de papel ou eletrônica. Basta que eu bombardeie você com mentiras por todos os lados para acabar com a reputação de alguém que eu quero que perca, ou criar uma imagem de salvador de alguém que sempre mereceu a sarjeta.

As notícias sobre o ataque cibernético da Rússia contra os EUA nas eleições de 2016 e 2020 são de conhecimento público e consolidadas em mais de uma fonte. Não preciso me alongar no tema.

O que precisa ficar claro é que quando a manipulação de um sistema eleitoral se dá por uma força exterior muito poderosa (em especial, o que se chama de ataques patrocinados por “State actors” ou, simplesmente, outros países) e muito organizada (com divisões militares de cyber-guerra, muito dinheiro à disposição, muitos recursos), sistema eleitoral nenhum está preparado para lidar com isso, no nível tecnológico.

O único remédio que consigo propor para isso é EDUCAÇÃO… Nesse caso, educação cívico-democrática e política. Educação para desconfiar de fake news, educação para saber pesquisar sem receber de mão beijada, educação para não acreditar em boatos e crendices, para detectar resultados espúrios e análises enganosas.

Educação para não cair no canto da sereia de candidatos safados, sem um plano de governo realista e factível.

Afinal, urnas eletrônicas são seguras?

Você leu tudo que escrevi. Teve acesso às fontes que eu consultei. Percebeu a complexidade para hackear o SIE brasileiro (tenho total convicção de que as tecnologias empregadas são melhores do que os padrões que se utilizava em 2002, pois o TSE teve duas décadas de interação com a indústria para aperfeiçoar o modelo [tanto urna, quanto software são fabricados pela iniciativa privada, sob edital, e não pelo TSE]).

Se você me perguntar “você confia na urna eletrônica brasileira?” a resposta é, claramente, “SIM!”.

Se você me perguntar “então, você confia que ela é 100% segura?” a resposta é “HELLS, NO!” (nem fod@$%^…)

Eu já disse isso antes: O único sistema eletrônico 100% seguro é aquele fora da tomada. Não existe nada, absolutamente nada “ihackeável”, nem mesmo sistemas que não usam computadores. Tendo tempo, recursos, conhecimento e acesso… Qualquer sistema cai. Qualquer um; o nosso, o da NASA, o da China….

O motivo para isso é que, como seu criador (o ser humano), os sistemas herdam falhas de conceito que são muito complexas em sua interação com outras “partes móveis” do sistema e muito difíceis de serem testadas em todas as combinações possíveis, sendo que se a brecha é detectada somente em situações extremas, é matematicamente improvável se prevenir contra tudo o que pode dar errado.

Novamente, o sistema eletrônico 100% seguro é o sistema desenergizado. E ele serve como um lindo peso de papel e nada mais.

Mas quem te disse que elas precisam ser 100% invioláveis? Por que essa tara? 😁

Vou te dizer como eu vejo a situação das urnas eletrônicas: para que eu prefira as urnas eletrônicas ao sistema anterior (em papel), elas só precisam ser mais seguras que a urna tradicional. E, como profissional de TI, com base em tudo o que foi lido e exposto, eu te garanto: elas são estupidamente mais seguras que o outro método (o papel).

Perfectíveis, sim. Sempre. Tudo é perfectível. Mas não são o calcanhar de Aquiles desta democracia.

Esforço para hackear a urna eletrônica: Profissionais competentes, desvio de uma urna para análise e técnicas de invasão, conhecimento da arquitetura de consolidação dos votos nos servidores do TSE, desvio/furto da chave criptográfica utilizada na transmissão dos votos ao final da sessão de votação, quebra de todas as medidas de segurança realizadas no código original (sua assinatura, o chip EEPROM)… Depois disso, o sujeito tem que, ou interceptar a urna entre o momento que ela deixa a “inseminação” e é escoltada (talvez, ele pague a equipe de escolta para permitir a adulteração), ou, de algum modo insanamente complexo, hackeá-la já dentro da seção eleitoral, na frente de todos os fiscais e voluntários, nos pouquíssimos minutos em que fica na cabine. Se tiver que carregar o software para hacker a urna, então… Rapaz, vai ser complicado disfarçar que a “urna caiu” para você acessar o painel traseiro dela, desparafusar, colocar seu pendrive/flashcard… Bem difícil… Outra hipótese é hackear a transmissão dos BUs, mas, novamente, o hacker tem que ter meios de assinar o BU com o certificado digital da urna, “batendo” o número de série que está ligado à seção para qual ele quer falsificar o BU. Possível? Matematicamente, sim… Fácil? Hehehe…

Esforço para hackear a urna de papel: Jogar duas cédulas (uma dada pelo fiscal, outra que você trouxe no bolso) ao invés de uma, ou pagar a escolta para, no translado da urna para a contabilização, trocar o conteúdo oficial pelo adulterado. Abrir o lacre adesivo/plástico, trocar tudo, e colocar novo lacre adesivo/plástico.

Pensando nisso, qual sistema lhe parece mais frágil?

Novamente, não estou discutindo se existe ou não existe tecnologia de máquina de votos mais complexa, mais recente, mais servida de mecanismos antifraude. Estou discutindo se a urna eletrônica atual consegue ser mais fraudável do que a urna de papel (e porque queremos a segunda – mais fraudável – como método antifraude da primeira – menos fraudável).

E a resposta para o último parágrafo é: nada é mais fraudável do que o papel.

Também por isso, paramos de usar cheques e fazemos todas as transações importantes (quanto ao valor) virtualmente, usando criptografia e nada mais. E não pedimos que o banco imprima a transação em papel para confiar no sistema bancário.

Por que a tara com a urna eletrônica?

Porque interessa ao discurso de quem quer justificar a futura recusa em reconhecer a derrota que – se Allah quiser – está por vir.

Sou contra o sistema VVPAT ou IVVR para as nossas máquinas DRE?

Absolutamente não… Nunca sou contra a melhora de nada. Se o sistema é considerado universalmente “x% mais seguro” só com a impressão do voto de origem digital, e seu depósito numa urna de papel, ótimo, vamos em frente.

O problema é que não é tão simples assim. O TSE já declarou que atualizar o sistema para imprimir custaria por volta de dois bilhões de reais a mais. São 500 mil seções eleitorais. Cada uma com pelo menos uma urna. Fora as reservas. Fora as seções no exterior. Se você pensou em utilizar a impressora de bobina que gera a zerézima e o BU, distribuídos aos partidos, errou!!! (leia com a voz do Faustão)… A impressão precisa ser automatizada, confiável, com redundância (para o caso de falhas) e, nos sistemas atuais, não é manipulada pelo eleitor (a cédula é impressa, aparece num “túnel” de acrílico, você confirma e a cédula cai na urna, sem [a sua] interferência humana). Quanto custaria projetar isso? E auditar isso? E manter isso?

Isso tornará o sistema mais seguro? Ninguém pode dizer que sim. Exceto se implementarmos e começar a haver diferença entre cédulas e BUs – aí sim, o sistema DRE está viciado e é caso de polícia. Caso contrário, gastamos alguns bilhões de reais apenas pela “sensação de segurança”. Como o tanque de guerra, parado na rua do cidadão assustado com a violência; não resolveu o problema com o batedor de carteira, mas todos se sentem mais seguros… Porquê não pagar por isso, não é? Não é.

Tornará a urna mais aditável? Sim, sem dúvidas. Mas será um processo eleitoral bem mais caro (além de toda a tecnologia adicional já descrita, temos que guardar e processar as cédulas em algum lugar seguro e monitorado) e mais lento (temos que ter auditores e eles são humanos, não máquinas – se colocarmos máquinas para ler o comprovante impresso, o que diabos estamos querendo? Só cortar árvores?)…

Disse, um certo cavalheiro:

O preço da liberdade é a eterna vigilância.

Thomas Jefferson

A liberdade de um povo em escolher quem o representa no Estado é o ápice do que o processo eleitoral democrático significa. Não podemos, jamais, confiar cegamente no discurso de um órgão oficial. As urnas devem ser auditadas, os processos devem ser melhorados, o que é obscuro tem que ficar claro como o meio-dia na areia branca da praia. Nada mata mais a corrupção e a falcatrua do que a claridade. Quem gosta de sigilo por 100 anos é a Justiça Militar (sim… os caras envolvidos com o governo e que mais gritam sobre “transparência nas eleições” são os mesmos escondendo a sujeira deles com sigilo secular).

MAS… Mas… Não é por isso que vamos gastar “os tubos” com impressão do voto digital, só para que nos sintamos “seguros” de que não há fraude, sem que esse sistema realmente signifique palpável diminuição do risco de fraude, apenas custando mais caro para o nosso bolso. A decisão precisa ser lógica, não emocional. É um sistema computadorizado. Emoção não tem nada a ver com essa área das ciências.

Por que estamos ouvindo a sandices de gente eleita pelo voto eletrônico, contra o voto eletrônico?

Pois é… Também não sei…

O anencéfalo que lamentavelmente chegou à idade adulta, foi eleito pelo voto popular na mais triste eleição da história democrática deste país (até agora), e seu opositor reconheceu a vitória, sem escândalo. Teve outros VINTE E SETE ANOS para VAGABUNDAR no Congresso Nacional, sendo dezesseis desses vagabundos anos conquistados via urna eletrônica.

E aí… Aí, esse animal irracional que grasna, rosna e relincha diuturnamente, começa a falar “é… não vai ter eleições limpas ano que vem, tá ok?… Se eu perder é porque foi roubado e não vou reconhecer! (faz arminha com as mãos…)”…

Que tipo de imbecil sustenta essa argumentação? “Se eu venci, deu tudo certo com a urna. Se eu perdi, não foi justa a disputa”…

Como alguém ainda considera as opiniões advindas desse projeto de ditador de meia tigela? Eu não sei. Teria que sofrer uns cinco ou seis AVCs para concordar com algo que tem autoria do mais esdruxulo e repugnante cidadão a frequentar a Presidência da República do meu país. Sujeito que, com sorte, será “só” uma virgula triste na nossa história e não o causador de mais um retrocesso às trevas ditatoriais, nesse amaldiçoado país quando o assunto é política.

E não se esqueçam, meninos e meninas, outros e outras… Não há vida política desonesta com povo 100% honesto. Essa conta não fecha. Não é Brasilia que enoja o Brasil. É o Brasil que entulha Brasília (com lixo, majoritariamente – não obstante eu reconheça a existência de algumas poucas boas almas na vida política nacional). Se não gostamos dos representantes, temos que pensar em:

a) o material humano que forma nossos candidatos.

b) nosso processo de escolha destes.

E então, como um físico tendo que explicar que, não, a Terra não pode ser plana, cá estou a explicar que não tem como a urna eletrônica ser mais fraudável do que a urna de papel. E que imprimir o voto, por si só, não é resposta adequada à transparência (mas, à priori, o afago a medos e receios que não se lastreiam em verdade, até aqui). Até aqui, imprimir o voto é o tanque de guerra em cada rua da cidade. Em boa medida, daí minha irritação e meu sarcasmo ao longo desse texto inteiro.

Porque é SEMPRE cansativo ter que explicar que o queimar da Amazônia lasca o planeta, que a Terra é redonda, que vacina faz (MUITO) mais bem do que mal, que democracia é melhor que ditadura… E agora… Que o sistema eletrônico que elegeu adversários como FHC (2º mandato) e Lula, também elegeu todo o Congresso Nacional que, agora, fica – em boa parte de seus componentes hipócritas – de conversinha furada para confundir um povo já carente de razão e lucidez, falando sobre o voto impresso como “única forma de eleições limpas” …

Com qual objetivo real, senão permitir a desestabilização da frágil democracia brasileira? A mando de quem? Quem são os senhores dessa gente que nunca me representará (seja por sua desonestidade intelectual, seja por suas posições antidemocráticas)?

Então é isso… Espero que a informação deixe você, que se sentia um pouco desinformado(a) e, por isso mesmo, com medo da segurança da urna eletrônica, um cadinho mais confiante nessa discussão. Não cego, nem com a guarda baixa (vigiar as instituições é responsabilidade constante de todo cidadão). Mas menos alarmado(a) e menos vulnerável ao pânico e histeria.

O resumo é: nenhum sistema é 100% seguro. Isso não existe. Nem o eletrônico, nem o em papel (nem o em nada), é absolutamente inviolável. Quando comparados os sistemas, contudo, a urna de papel é uma vergonha em termos de segurança.

E a nossa urna eletrônica é suficientemente segura. Poderia ser mais, claro; sempre pode.

Não quer dizer – enquanto as auditorias técnicas (que também podem ser melhores [maiores, mais frequentes…] e podemos cobrar isso) não demonstrarem o oposto – que precisa ser mais segura, já e a qualquer preço.

Sobre o PenTest Bolsonarista

Um post para todos que andam dizendo “já passou” …

Ao escolher uma faculdade ligada à Tecnologia da Informação, uma das coisas que acontece com você é que, automaticamente, você passa a entender sobre redes, programação, formatação de sistemas, vírus de computador, micro-ondas, recarga de cartucho de impressoras, e como arrumar o celular dos seus familiares (“nossa, tá muito lento e apareceu esse aplicativo aí que eu não instalei”)…

Ah! Acontece outra coisa também: Para qualquer pessoa de fora da área, se você abre um prompt de comando e digita “ipconfig /all”, pronto… “Cara, você é hacker?”. Claro! Quem não é?

Sim meus caros amigos, somos todos hackers na informática. A primeira aula na faculdade é “invadindo perfis de Facebook da ex-namorada”. E é “da ex”, e não “do ex”, porque uma coisa mais rara do que aluno de informática em forma, é mulher na sala de aula (o que considero um assunto triste, mas fica para outro dia).

Bem, como somos todos hackers, todos nós sabemos o que é um PenTest. Mas, eu vou dar uma colher de chá e falar com propriedade sobre algo que faço todo dia. Ou seja, vou falar sobre “coisas de hacker”. Em termos mais técnicos, falarei em “Segurança da Informação”.

Na disciplina de Segurança da Informação, na qual sou extremamente versado (eu espero que vocês já tenham notado o sarcasmo), “PenTest” é um conceito que, para além da abreviação, significa “Penetration Test”. Em resumo, com um sistema da informação exposto, mesmo que somente a um público interno, é importante saber se pessoas não autorizadas são capazes de extrair dele, informações e dados aos quais tais pessoas jamais deveriam ter acesso.

E (eu sigo supondo que minha audiência não é da área), talvez, sua primeira pergunta seja “mas, se o sistema foi bem feito, só acessa que tem usuário e senha (credenciais), não é?”.
Méh…. Mais ou menos… Mais ou menos…

O problema com o desenvolvimento de sistemas (o que nós, que sabemos sobre impressoras e micro-ondas, dominamos muito bem) é que, de maneira geral, os programadores (aqueles que fazem o programa, ou “app”) fazem o código “para dar certo”.
E aqui, você dirá “what-the-p$rra?! E não deveria ser sempre assim?”.
Você ainda não visualizou o problema…

O problema é que se eu sou “teu chefe” (o analista de negócios, o PjM [Project Manager], o P.O. [Product Owner], ou só o cara te pagando, mesmo) e te digo “quero que você me faça uma calculadora que some, subtraia, divida e multiplique”, você, como programador, mas, mais ainda, como ser humano, se prepara para construir algo que “some, subtraia, divida e multiplique”…
Se você for mais espertinho, você fará outras perguntas como “de que modo o usuário entrará com os números a serem operados nessa calculadora?”, e outras perguntas que te ajudarão a fechar o escopo do programa a ser desenvolvido.

Ocorre que… Em uma sala de programadores júnior, e para todos vocês que não sabem como recarregar um cartucho enquanto invadem o sistema de mísseis da OTAN (como eu sei), a maioria das pessoas não fará perguntas cruciais como “quem deve ter acesso à calculadora e que tipo de autenticação usaremos para garantir?”, ou “os dados devem ser criptografados durante os cálculos e no armazenamento de longo prazo? ”, ou “que tipo de tolerância à falha essa arquitetura deve possuir?”… Essas são perguntas que só quem já passou das primeiras “300 horas de voo” deve imaginar…

E aí, sua calculadora fofinha que soma “result = varA + varB;” e faz um “printf (result);”, recebe do usuário a ordem para soma de varA = 3 e varB = o (ó de “óleo”, não “zero”).
Kabum! … Lá se vai o seu programa tentando somar um número com uma letra. Algo tão bobo quebrou seu programa… Imagina quando a questão é fazer um programa seguro do tipo “só vai entrar quem deve”… São tantas possibilidades… Tantas coisas feitas de maneira legitima e sincera e que podem se tornar exploráveis por alguém mal-intencionado…

Em resumo, você já viu que dizer “ué, só entra quem tem credenciais” não resolve o problema real de Segurança da Informação. Torne as coisas muito mais complicadas do que somar duas variáveis e exibir o resultado na tela, e os problemas e preocupações acompanham a mesma regra exponencial de possibilidades.

Esqueça o petróleo. A riqueza do mundo está nos dados

E até o mais bobo dos hackers sabe disso…

E porque a riqueza do mundo não é mais material, mas, sim, de informação (quem detém e manipula mais disso é mais rico que os outros), a maioria das gigantes empresas já entendeu que não dá para tratar sistemas da informação de forma muito diferente da sala-cofre do banco onde fica a bufunfa.

Assim nasce, nas áreas de TI, a disciplina de Segurança da Informação (SI), originalmente preocupada com ataques externos, até que percebemos que a franca maioria dos ataques começa de dentro para fora (fonte). Seja com ajuda intencional ou não dos colaboradores (empregados) da empresa atacada.

Surge, nas empresas de grande porte, a ideia de ter times de hackers contratados para combater hackers hostis à empresa.

Depois de um tempo, já não é suficiente “sentar e esperar”, e a Segurança da Informação passa a ter que se antecipar aos ataques. A SI da empresa tem que pensar como o agressor agiria… O que ele faria, o que ele exploraria… É claro que existem os truques básicos, e é claro que tem empresa pecando no que chamaríamos de “nível 0” de maturidade de SI (como não colar sua senha em um PostIt no teclado). Mas, o mesmo mal que afeta o programador (que programa “pra dar certo”) acontece com o time de SI da empresa… Gente acostumada a defender, com o tempo, esquece como atacar.

Constrói-se, então, o conceito de “blue & red teams”. São dois times de profissionais contratados pela empresa. Um de atacantes e outros de defensores. E são ambos ligados à SI, mas, a parte divertida da coisa é que um não conhece o dia-a-dia do outro, e o time azul nunca sabe quando o time vermelho está invadindo, ou quando a invasão é real. Isso cria uma mentalidade de “não-relaxamento” o que é, modo geral, positivo para a eficiência das medidas de segurança.

Na esteira disso, surgem consultorias especializadas em vender “PenTests” ou “Penetration Tests”… São consultorias formadas (pelo menos, no princípio) por hackers e pessoas com bom conhecimento de SI, e que vão tentar invadir um designado sistema da empresa para apresentar um relatório depois, indicando o quão seguro é o sistema explorado.

Não existe sistema totalmente Seguro

O único sistema eletrônico 100% à prova de invasão é aquele fora da tomada…

Lembra da nossa calculadora? Ela falhou porque não projetamos ela para impedir qualquer entrada que não fosse um número. Também, dando um passo adiante, deveríamos proibir que divisões por zero ocorressem (já que a divisão por zero é uma indeterminação)… Enfim, há sempre espaço para melhora.

Agora, uma calculadora como essa, feita em linguagem de programação C (“C” é o nome da linguagem), deve chegar a 15 ou 20 linhas de código (como esse texto, podemos contar o tamanho de um programa em linhas, em funções e de várias outras formas). De maneira agressivamente simplista, essas linhas explicam para os circuitos do computador como lidar com os valores que você digita no seu teclado e que espera operar matematicamente (já que é isso que uma calculadora faz).

O tamanho do programa varia com o tamanho das necessidades (aqui, 4 operações elementares), e com a habilidade do programador (programadores mais experientes e talentosos saberão fazer um mesmo programa, quanto às funções esperadas pelo usuário, com menos linhas do que um programador iniciante) …

Agora, vamos para um exemplo real:

Um navegador de internet como o Mozilla FireFox, tem mais de 28 MILHÕES de linhas de código (LOC: Lines of Code), e é composto por mais de 40 linguagens de programação diferentes (fonte).

E, por mais que eu saiba que qualquer navegador moderno é a nova área de trabalho dos dias de hoje (pense bem: o que você faz no seu PC/notebook que não é feito via seu navegador? [Chrome, Edge, Firefox…]), a realidade é que o navegador é “só um programa” que precisa de um sistema operacional inteiro por baixo dele para poder ser executado…

Para se ter mais uma ideia de dimensão das coisas, o coração de um sistema Linux moderno tem, por padrão, 15 milhões de LOCs (fonte)… E o Kernel é “só” a parte que faz o sistema ficar pronto para mandar no hardware da sua máquina (processador, memória RAM, disco, rede[…]), sem falar de interface com usuário (mouse, teclado, monitor, impressora), interface gráfica (seu desktop), programas-padrão de um sistema operacional, acessórios e periféricos…Ou seja: O tamanho total de um sistema operacional moderno atinge, sem um esforço enorme, a marca da centena de milhões de linhas de código. E como eu já disse… Não é apenas uma linguagem de programação… São dezenas. Cada qual com seus trejeitos, vantagens e desvantagens. Cada qual com suas habilidades e vulnerabilidades… Como as línguas faladas pelos homens…

E, se uma calculadora de 15 ou 20 LOCs já teve problemas… Você, agora, entende o porquê não existe um sistema 100% à prova de falhas. Algum dia, alguém vai esbarrar em uma linha “escrita para dar certo”, mas, que permite que MUITA COISA ERRADA aconteça através dela… E não é como se faltasse linha; concordamos, certo?

A evolução da SI, e os problemas éticos decorrentes

Porque onde tem gente…

Bem, eu já te disse que petróleo é fichinha, comparado ao valor financeiro em forma de dados que uma empresa pode acumular, certo?

Eu também já disse que a SI se tornou uma disciplina necessária para guardar o tesouro da empresa, tal qual o banco (Itaú, Bradesco etc.) guarda a sala-cofre com a grana…

Se eu te dissesse que sei como invadir sua sala-cofre (virtual ou real), mas, que estou disposto a te ensinar como se proteger dessa invasão e se, inclusive, eu te desse uma amostra da gravidade dessa situação (por exemplo, te mostrando que sei o que e quanto você guarda lá dentro), quanto você pagaria para eu te ensinar a se proteger do que fiz?

Infelizmente, esse foi o caminho “de negócios” de parte das “consultorias” (que, nesse caso, mais se assemelham ao modelo dos mafiosos sicilianos da Cosa Nostra, ao vender proteção contra eles mesmos para os comerciantes) … E, assim, essas “consultorias” passaram a fazer invasões “preemptivas”, sem qualquer pedido ou contrato com a empresa-alvo. Quando conseguiam invadir algo, enviavam um contato comercial para a empresa, mostrando que invadiram, mas, invadiram pela nobre causa de despertar a empresa atacada para os riscos que ela correria se o ataque fosse feito por gente “mal intencionada” (porque, claro, eles estavam ali para dar de graça o “como corrigir o problema”… [not!]).

E assim, o mundo é cada vez mais conectado e mais inclusivo quando o assunto é “Internet” e, por causa disso mesmo, cada vez mais perigoso e hostil para todos. Dados e informações são riquezas maiores do que petróleo (fonte), existem e circulam de maneira abundante pela Internet, e pela natureza conectada do mundo atual, precisam interconectar diversos sistemas, em várias partes do mundo. E tudo isso significa oportunidade. Para o bem e para o mal.

Proteger esses dados tão bem quanto se possa é o novo meio de “se criar um banco” (e ficar rico como quem criou os originais). Quem protege melhor, ganha mais. Mas, para proteger melhor, você precisa de um time altamente treinado e constantemente desafiado. Daí, os “red & blue teams”.

O problema surge quando, bem… Seu blue team não é lá “aqueles coco” (saudações, Aloisio!), dorme no ponto, baixa a guarda por achar que o ataque é falso (vindo do red team), mas o ataque é real… Ou quando o seu red team é mais do que bom… É feito de pessoas realmente perigosas. Acontece nas melhores empresas, e nos processos seletivos menos criteriosos…

Se você pensar bem, é o tipo de gestão de pessoas mais maluco do mundo… Você precisa contratar gente competente, acima da média, realmente capaz de causar dano ao patrimônio, e convencê-los a trabalhar pra você, te ajudando a prevenir invasões à sala-cofre… E quando eles invadem, você precisa ter confiança de que eles não farão nada de mal com o que encontraram lá dentro… Melhor recrutar bem… E pagar ainda melhor…

  • Eu preciso dizer que é um pouco fantasiosa a forma como descrevo as coisas… É óbvio que o bom gerente do time de SI não sai por aí contratando hacker em sala de bate-papo do UOL. Mas, a intenção sempre é manter o texto acessível e destacar os perigos de quando você toma as coisas por garantidas… Porque como disse Richard McKenna:

“The way you get killed around machinery is to take things for granted”.

  • Em bom português (adaptado): “O jeito para morrer lidando com uma máquina (ou sistema), é tomar por certo o incerto”.

E não é sempre assim que se morre, Sr. McKenna? 😉

É sempre fácil acabar morto quando você dá as coisas por certas… Especialmente ao lidar com os perigos da vida… Ou dos sistemas…

Tudo pode ser abordado por uma mentalidade de sistemas

Até porque você(nós) toma(mos) tudo por certo e não dá(mos) o devido valor…

Computadores (desde as dezenas deles embarcados em um avião, passando pelo controle a bordo de um míssil, até o notebook ou o smartphone no seu bolso) são máquinas.

Máquinas são sistemas.

Falamos de parte das características dos sistemas no post passado. Outra parte vai por aqui…

Um programa é uma rotina lógica que é compilada e vira o tal “exe” que você utiliza (como nossa calculadora inicial) – estou sendo grosseiro, claro. A junção de vários programas que interagem entre si, dá origem a um sistema.

E sistemas são, de maneira genérica, partes que interagem entre si e resultam em um propósito comum à existência de todas elas. Para que um sistema funcione, ele precisa trocar informação. A informação precisa ser protegida, não só de acesso indevido, mas de corrupções, interrupções, e outras formas que possam impedir que um dado programa do sistema tome as atitudes que deve tomar, diante da informação que ele deveria ter recebido.

Todo vírus de computador moderno é concebido com medidas para tentar impedir que o programa antivírus receba informação (indícios) de que há uma infecção em andamento. E só para te garantir: Um vírus de computador não é nada mais, nada menos, que um programa. Como a nossa calculadora… Só que ao invés de somar, o programador o fez para danificar ou invadir o sistema onde ele for executado.

A guerra é travada no campo de quem consegue interceptar mais informações: O vírus ou o antivírus. Quem souber mais, vence. O antivírus joga com a vantagem de ser “do time da casa” e ter acesso privilegiado a todo tipo de informação de várias partes do sistema. Os demais programas, se possível, o ajudarão com informação.
Mas, acontece que o programador do vírus fará de tudo para que o vírus também se pareça com algo originário do sistema e, portanto, “também de casa”.

É um jogo de “gato e rato”. Nós corrigimos algo. Eles inventam algo novo. Nós fechamos uma porta. Eles acham um cadeado mal fechado.

Não é porque é divertido brincar disso. É porque é impossível se proteger absolutamente enquanto se mantém conectado. E os sistemas são colossais. Dezenas (e até uma centena) de milhões de linhas de código tentando trabalhar em conjunto, como já te mostrei.
Conectar-se é, também, se vulnerabilizar. Você precisa abrir portas. Vale pra Internet e vale pra vida.

Conhecimento não é, necessariamente, Poder

Mas é o caminho mais óbvio para ele…

Em “Game of Thrones” (HBO), há uma discussão entre duas personagens relevantes no jogo político, em que a primeira diz “conhecimento é poder”, e a outra personagem diz “Não. Poder é poder” e põe meia dúzia de gorilas, cada qual com a espada no pescoço do pobre coitado que trucou a outra, anteriormente.
Acontece que a segunda estava errada (a série mostra isso). Conhecimento é mesmo o que gera poder.

Para seguir nos exemplos Pop, umas das publicidades mais geniais que vi, veio da série “House of cards” (Netflix), enquanto eu estava em viagem de trabalho em Brasília (DF). Ao chegar no aeroporto de BSB, um cartaz usava uma frase célebre do personagem central: “Nessa cidade, um erro que quase todo mundo comete é escolher dinheiro antes do poder”, com a foto de Francis (Kevin Spacey) ao lado.
A frase já é forte o bastante, sozinha, mas colocá-la no hall de chegada de BSB foi o que mais marcou para mim. Eu vi. E os políticos também. Assim como os jornalistas. Afinal, “todo mundo” chega e “todo mundo” sai do Distrito Federal, semanalmente, por ali.

Para fechar no ramo Pop, em “Chernobyl” (HBO), em uma das reuniões tensas entre o então Secretário Geral do Partido Comunista (Mikhail Gorbachev) e seu gabinete de crise, o Secretário se queixa de ter que pedir desculpas para aliados, mas, também para os inimigos da então União Soviética. E uma das frases que ele diz é “nosso poder vem da percepção do nosso poder”. Ou seja… Poder, ao menos na política, não é algo totalmente real. Ele depende um bocado de quanto os demais percebem (ou acreditam) que você detém dele.

O que acho interessante de todas essas três citações é que, no fundo, fica provado que seja lá o que é o “poder”, ele descende do conhecimento. Quem sabe mais, pode mais. Se você conhece as pessoas certas, se você conhece os processos, os mecanismos, os meandros… Se você conhece gente que já tem poder, que já tem influência. Se você sabe como manipular isso tudo ao favor do que você almeja (sendo o que você almeja legitimo ou não)…

No fundo, conhecimento sempre foi sinônimo de poder. Não quer dizer que todos que detém conhecimento têm poder. Porque eles podem não saber como usar o conhecimento que têm. Ou podem não querer usá-lo, por autoimposição de limites e de valores éticos e de controles morais ou mesmo coercitivos por parte da Lei e do Estado. Ainda assim, não muda nada: Saber é o caminho para o Poder.

Democracias são sistemas

E, para mim, o governo Bolsonaro é “a consultoria siciliana” fazendo um PenTest na nossa Democrácia…

Sociedades e Ditaduras também são sistemas…

E todos os sistemas podem ser atacados por quem souber mais a respeito deles.

Para muitos apoiadores de Bolsonaro, episódios como o do ex-secretário Roberto Alvim são meras “falhas de trajetória”. “Descuido”. “Deslize”. “Bola fora”. “Acontece”.

“Ele escolheu alguém e esse alguém passou dos limites. Já foi demitido. Fim.”…

Se fosse tão simples, eu estaria dormindo bem nos últimos dias…

Na seção anterior, eu disse que o governo Bolsonaro é a “consultoria siciliana”. Aquela que “testa” o sistema da empresa, sem a empresa pedir.

Originalmente, eu ia dizer que o governo Bolsonaro era o “Red Team that went rogue”, terminologia conhecida na área de SI… Ou seja, “o Red Team que foi pro lado negro”. Eu voltei atrás de usar isso. Porque o Red Team, originalmente, trabalha para sua empresa…

Se a empresa do Bolsonaro é o Brasil, e se o Brasil pediu para ele testar a Democracia, ele testaria, acharia as falhas e brechas, e reportaria o que o Blue Team não fez, mas poderia ter feito, para melhoramos o sistema testado.

Se fosse um Red team que se corrompeu, teria começado certo, com as intenções certas, mas teria se perdido no caminho; por dinheiro, por más influências, ou qualquer coisa do gênero.

Ocorre que, para mim, a cada dia que passa, é mais evidente que o propósito de Bolsonaro (mas, mais do que o propósito dele, o propósito de quem o pôs lá [e você é bem inocente se pensa que estou falando do eleitor dele]) sempre foi esse: De testar o que ninguém pediu para testar.

De tentar invadir o que ninguém queria que fosse invadido.

Fica só a dúvida se quem o pôs lá, entende o risco de que ele – Bolsonaro – não obedeça ao combinado, e não se limite a nada, a não ser ao próprio senso obscuro…

Para entender porquê suspeito disso, você tem que saber como o Brasil surgiu

Mas, claro: Ninguém tem tempo para estudar história básica do lugar onde vive, então, vamos ao crash course:

Acho que um problema na compreensão de todos nós sobre a realidade histórica de como o Brasil virou República e de como chegamos à Democracia, é que fantasiamos muito a ideia de que essas conquistas ocorreram através de luta e sangue, numa disputa até o último homem pela “alma do que é o Brasil atual”…

Ocorre que não foi nada disso.

Historicamente, o Brasil só mudou através de acordos. Nós deixamos de ser colônia com um acordo entre as elites que mandavam no Brasil e nas Capitanias Hereditárias – sabe o Coronelismo típico do norte do Brasil? Então você conhece parte dos herdeiros das Capitanias – e a Coroa portuguesa (em 1822) e, depois, viramos República (acabando com o Império e a sucessão por sangue) com uma tapetada da nova elite agrária brasileira (fincada no eixo São Paulo x Minas) contra o Imperador (o que se sumarizou em 1889) e, só depois, viramos uma Democracia quando a elite brasileira permitiu que parte de sua população votasse diretamente para presidente, em 1894, contando com apenas ~350 mil eleitores e voto censitário – disponível para quem tem posses (e, portanto, não universal, como hoje) (fonte).

Quer saber como voltamos a ser democráticos depois do Golpe de 1964? Com apoio das elites, especialmente, as que controlavam empreiteiras e a mídia, ambas originalmente apoiadoras do Golpe e, mais tarde, descontentes com o governo militar que ajudaram a instalar (fonte).

Então, se por algum momento você já pensou que algo “disruptivo” (neologismo, para o texto ficar mais chique) ocorreu em solo brasileiro simplesmente por “sangue, ideais e glória”, sinto muito ter de estragar sua visão.

O Brasil é fundado como um grande latifúndio. Uma terra para a exploração. E quem mandava no latifúndio era quem ocupava o posto de senhor da produção (a despeito do tipo dela). E isso nunca mudou na constituição do que é o Poder, no Brasil.

Acho que a ilusão de que “o povo está no controle” que vemos por aqui, vem muito da nossa alta exposição (quase sempre, Hollywoodianizada [tente pronunciar isso rápido, 3 vezes]) ao que foi a história dos EUA. Ocorre que lá, diferente daqui, a colonização tinha o central objetivo de fundar uma nação nova, longe do que seus fundadores consideravam a tirania do império britânico (não que, em larga medida, não fossem eles mesmos tiranos terríveis, como comprovaram – ao preço da existência – os nativos de lá).

Brasileiros ao invés de “brasilianos”

E isso explica parte da nossa relação com este lugar…

Já, o Brasil sempre foi um lugar de onde tirar riquezas e mandar para o império português que, antes que você ouse menosprezar, foi nada menos do que o império ultramarino (ou “global”) mais poderoso do período alto da Grandes Navegações, controlando nada menos do que 14 colônias ao mesmo tempo (fonte).

O Brasil carrega de forma tão forte no DNA, a coisa de “terra para se extrair”, e aonde nada se deve investir ou edificar que, diferente de outros povos como, colombianos, mexicanos ou mesmo americanos, nós nos chamamos “brasileiros”.

Ocorre que em linguística portuguesa, o sufixo “ano” destina-se usualmente à nacionalidade de um indivíduo. Já, o sufixo “eiro” é normalmente usado para profissões e ocupações como, carroceiro, barqueiro, cabeleireiro, padeiro, marceneiro…

Assim, “brasileiros” eram os homens que, ao longo da primeira fase da ocupação pelo império português em Pindorama (o primeiro nome da terra que vocês conhecem como “Brasil”), retiravam pau-Brasil daqui para mandar para a Coroa e sua corte.

Ou seja: O que conhecemos como nosso gentílico é, na verdade, o nome original da profissão de quem entrou para extrair e devastar, e quase fez sumir com o recurso natural que, mais tarde, deu nome a uma “nação por acidente”; nação sempre brincando com o risco de se extinguir, pela fúria da própria sanha extrativista (o extrativismo pode até não ser mais tão palpável, mas segue na mentalidade “retire tudo que possa daqui, tão rápido quanto puder”) de cada filho deste solo que és mãe gentil…

Nação por acidente” porque nunca foi a intenção dos colonizadores que isto aqui se tornasse um país. Não fosse a necessidade estratégica de proteger a Coroa, ante o avanço Napoleônico, – estratégia que, antes que você despreze, foi formalmente elogiada pelo próprio Bonaparte – a família real jamais teria pisado aqui e o boom civilizatório que se instalou no Rio de Janeiro e, mais tarde, contagiou o resto do país, jamais teria se iniciado – pelo menos, não com a força e forma como se deu.

Nosso passado não determina nosso futuro

Mas ignorá-lo é de uma burrice descomunal…

Eu tenho a certeza, por posicionamento moral e ideológico, de que todos podem mudar. Se sua história começou de forma ruim, torta ou mesmo acidental, nada disso significa que sua existência precisa ser ruim, torta ou mero acidente. Em resumo, não creio em “destino” e não creio em “caminho sem volta”. Meu entendimento de mundo simplesmente não me permite ver as coisas por este prisma.

Se o Brasil é “uma nação por acidente” e uma República Democrática porque os poderosos assim permitiram, isso não significa que esse lugar não pode ser uma Democracia verdadeira, plena, e em que o povo em sua totalidade, e não oligarquicamente, decide os passos seguintes do país, e com a qual ninguém brinca ou manipula isoladamente. Mas, isso não é mágico. Não vai acontecer porque “tudo que eu quiser, um cara lá de cima vai me dar”… Aliás, se eu esperar “o cara lá de cima” resolver o Brasil, ferrou! Porque, na fila, tem o continente africano inteiro, que está esperando a ajuda há mais tempo, e é bem mais necessitado.
Brincadeiras maldosas à parte, estou tentando dizer o mais óbvio dos óbvios: O Brasil é o que suas elites poderosas permitem que ele seja e, assim que essas elites cansam do que está em curso, elas fazem o que sempre fizeram: Mudam as regras do jogo, com ou sem uso de força bruta. Tanto faz. Elas não se importam de usar a força. Mas se der para parecer que foi “do povo, pelo povo, para o povo”, tanto melhor. Não por ética, mas pela encheção de saco internacional que a força bruta gera.

E é por não reconhecermos o passado que tomamos por garantido e damos pouco valor ao risco de que nada é em prol de você, que não pertence a nenhuma das elites fundadoras desse lugar…

Esqueça a bobagem de classe média vs. classe pobre. Esqueça “burguês”, e esqueça “esquerdista”… Para essas elites que estou citando, somos todos a mesma coisa: Engrenagens e peças de reposição. Se algumas estragarem o andamento da máquina e do sistema que essas elites idealizaram e sempre mantiveram no curso, elas arrancam as peças “defeituosas”, removem as ameaças, e recomeçam a máquina, tudo de novo.

Bolsonaro é parte desse reset. Ele foi escolhido por elites agrárias e por elites financeiras, e suportado por parte da elite descontente com a hegemonia atual de certa família na imprensa nacional (de vez em quando, as famílias que pertencem à uma dada elite ficam bravas com a hegemonia de outra família naquele segmento; é o que acontece no cenário da imprensa brasileira, hoje).

A elite industrial e financeira fez Bolsonaro adotar Paulo Guedes porque a agenda dele vai ao encontro das necessidades atuais dessas elites de competir com o resto do mundo.

“Rodrigo, pelo amor de Deus, que viagem é essa? Parece papo de conspiração, conversa de sindicalista… Esquerdista…”

Garanto: Não tenho nenhuma simpatia pela proposta de Marx para os problemas do mundo, não concordo com o aparelhamento político dentro de sindicatos que deixam de defender seus associados da real agressão nas Empresas, pra eleger deputado, prefeito(…), e nunca vou chamar ninguém de “companheiro/a”, para ganhar votos ou aplausos…

Isso dito, nada na minha discordância faz com que eu me cegue para a solidez do diagnóstico que alguns desses agentes criticados fizeram e fazem. Eu posso não concordar com “o tratamento prescrito” (e, de fato, não concordo), mas o diagnóstico está certo sim:

O Brasil é um país em que a História prova, por via factual, que sua idealização foi sempre a de terra a ser explorada, e que aqueles que receberam ordens do império para explorá-lo, continuam comandando o jogo através dos tempos e das gerações. Desde a independência, poucas novas famílias surgiram nos seios dessas oligarquias que comandam “o show”. Vou citar algumas áreas onde essas elites residem:

Temos elites que comandam a extração de minérios.

Temos elites que comandam a produção agropecuária.

Temos elites que comandam os bancos.

Temos elites que comandam as indústrias.

Temos elites que comandam a imprensa.

Temos elites que comandam a justiça e o braço punitivo do Estado (Forças armadas, polícias).

E todas essas elites são amigas entre si e se conhecem muito bem. E todas elas comandam como o show chamado “Brasil” é conduzido. E quando elas cansam de brincar de alguma coisa com o resto de nós, que não temos sobrenomes de sangue azul, elas usam todo seu poder e influência para “resetar o jogo”.

“Rodrigo, então, você está sugerindo que não existem elites nos EUA, por exemplo? É um problema só nosso?”

Mas, que tipo de idiota você acha que eu sou???

É claro que existem famílias no comando de várias áreas fundamentais à vitalidade e poderio em cada país do globo (é um globo. Aceitem).

Fica para outro dia e para outro post, mas é exatamente por saber que elites comandando o jogo existem em todos os lugares, que jamais concordarei com a visão liberal da Economia, especialmente pautada na ideia de que a regulação estatal é inimiga do “fair play” de oportunidades, e de que a desigualdade do mundo pode ser resolvida via “meritocracia” (spoiler de post futuro: Se você tem esse tipo de acúmulo de poder, passado de geração em geração, “meritocracia” não pode existir de forma plena e plural, senão em condições muito específicas de avaliação; e aí, deixa de ser meritocracia, de fato)…

Mas, como Bolsonaro entra nisso tudo?

Ele é útil, mas, ele também é instável…

Quem “soltou o cão da coleira”, esperava que ele mordesse uns traseiros que andavam muito ousados e, em seguida, esperavam retorná-lo à coleira. Ele poderia brincar com o sistema, mas sem quebrar…

Acontece que Bolsonaro tem suas próprias ideias de ”certo e errado” e não é muito afeito à hierarquia e obediência não…

“Oi? Você está falando que um capitão reformado do Exército Brasileiro, não é afeito a hierarquia e obediência?”…

Bem, você já respondeu, se pensou assim: Atenhamo-nos, ao “reformado”.

O Brasil é um país em que todos são iguais perante a Lei (CF/88, Art. 5º, Caput). E é por isso que quando Juízes roubam e corrompem (Nicolau dos Santos Neto, já ouviu falar?) eles são punidos com aposentadoria integral (cassada década depois, sem devolução do que foi pago, só pra dar o “cala boca” em quem reclamava desse absurdo que continua acontecendo aos montes), e é por isso que Oficiais das Forças Armadas acabam reformados (aposentados) quando atentam contra a própria instituição… Porque esse é um país em que todos são iguais perante a Lei…

Bolsonaro foi “reformado” porque, não tendo seus desejos salariais atendidos pelos superiores, publicou plano de como atentar contra o próprio Exército Brasileiro (fonte). Ele dirá que foi inocentado do processo, e é claro que foi: Porque, como todos são iguais perante a Lei, no Brasil, Oficiais do Exército não “botam pra quebrar” contra outros Oficiais do Exército. Se Bolsonaro fosse Praça (Soldado, Cabo, Sargento), teria morrido em algum porão pelo que fez, da mesma forma que ele sempre deseja para “os comunistas” (seja lá quem são esses “comunistas”; talvez, eu mesmo seja um, sem saber).

Por não ser alguém que respeita hierarquia e não se sente obrigado a obedecer a lei (nem mesmo a lei marcial, mais rígida e que se aplica ao militar), ao soltar Bolsonaro da coleira de onde ele jamais deveria ter sido solto, seus novos donos (que bancaram sua candidatura com todas as armas disponíveis, incluindo o financiamento milionário de Fake News [fonte]) esqueceram de verificar o óbvio: Ele é um “cachorro louco”, com suas próprias ideias do que é certo e errado, e de quem é bom e de quem é mau.

E Bolsonaro (e seus escolhidos) vem fazendo um PenTest na Democracia

E você não deveria achar que é “sem querer”…

Finalmente, no clímax desta opinião (e é “opinião” porque não posso provar materialmente que Bolsonaro pensa como eu aponto que ele pensa; e eu não acho que minha opinião transforma hipóteses em fatos…), eu proponho que Bolsonaro, seus ministros, seus filhos, secretários, assessores, e todos aqueles que já participaram de algum ataque à nossa Constituição, à outras Instituições democráticas, à parte da Imprensa que não se alinhou (e que também é uma elite, mas é paradoxalmente necessária à Democracia) e etc.; estão todos participando em um PenTest do quanto a Democracia aguenta.

Quer dizer… Se a Democracia é um sistema, ela é só o Front-End (o sistema exposto). Por trás dela, há o Back-end (o sistema de suporte) que é a Sociedade…

Então, na verdade, quando Bolsonaro e seus partidários testam a Democracia brasileira, o que eles realmente estão testando são os limites do povo brasileiro…

O que eu realmente acho que Bolsonaro tenta descobrir é o quão difícil seria tomar o poder do Brasil para si, e quanta resistência popular, social, institucional, e sistemática, ele realmente teria se tentasse fazer isso…

Então ele tenta calar a mídia que não “fecha com ele” (não porque a mídia é boazinha, mas porque ela não confia mais que ele “vai jogar o jogo dentro das regras”). E se batemos palma para o cala-boca dele (ou se a maioria bate palma), ele sabe que calar a mídia não será difícil.

Depois, alguém a serviço dele diz que fechar STF e Congresso é fácil de fazer. Só precisa de um soldado e um cabo… E as pessoas aplaudem de novo. E eles medem se os aplausos são mais altos do que as vaias. Se são, mais um ponto pró-invasão…

Depois, alguém brinca com direitos e garantias, aqui e ali, e, na verdade, tudo parece muito ao acaso, muito desconectado…
E se as vaias superam os aplausos, aí, surge alguém do governo para pôr panos quentes e calar as bocas críticas… E eles dizem “não… Já passou, foi um tropeço, foi um descuido, um exagero…. Acabou gente! Circulando… Não tem mais nada para ver aqui” …

Mas, se você ousar ser um pouco menos crente… Um pouco menos “cordeirinho”… Se você ousar pensar que esses ataques são sistemáticos, coordenados, e não ocasionais ou acidentais, e miram as várias áreas que compõem um sistema que representa uma sociedade em regime democrático…

Então você vai ser capaz de supor o que eu suponho:

Que Bolsonaro está fazendo um PenTest que ninguém o contratou para fazer. Queriam que ele brincasse com o sistema, mas que parasse antes de quebrar. Mas, ninguém sabe ao certo se ele vai parar.

E, como eu, você também vai começar a suspeitar de que quando Bolsonaro estiver convencido de que é possível “invadir o sistema”, só Deus sabe o que ele vai fazer com o poder adquirido sobre ele.

Teoria da Conspiração, sim. Em algum grau, pensar como penso aqui, exige uma dose de imaginação, já que PROVAS não são tão fáceis de conseguir, e jornalismo investigativo não é minha profissão. Mas, só estou ousando pensar além da mensagem oficial de que tudo não passa de “mal-entendido”. De “fala fora do contexto”. De “excesso”.

Ou “coincidência”… Imagino o tamanho do esforço do Cosmos para fazer um Secretário de Cultura tocar Wagner, enquanto repete quase que textualmente o ideólogo-mor do Nazismo… O Cosmos precisou alinhar uns 100 planetas para essa coincidência ser viável.

E ainda que eu esteja errado (e, não duvide caro[a] leitor[a]: Torço a cada segundo pra errar feio nisso aqui), e que seja, mesmo, tudo apenas uma grande pataquada de incompetentes e inaptos, escolhidos a dedo pelo sujeito eleito pelo voto popular de gente que pensa só com o fígado… O estrago desses discursos não poder ser menosprezado, ainda assim.

Se Bolsonaro não é mesmo a favor de discursos Nazistas (e não apenas “porque os judeus ficam de mimimi” [termo que ele adora utilizar], mas porque é filosoficamente contra), o fato é que seu discurso virulento, raivoso e segregacionista, dá o reforço moral para gente lunática sair dos porões onde estava trancada com toda sua loucura e perversidade.
Se Bolsonaro não apoia realmente o espancamento de gays e lésbicas, seu discurso de que estes são “menos que gente” reforça, no coração de gente bestial, “o direito divino” de resolver o que Deus não parece se importar. Porque se Deus é tão poderoso, e gays o enojam tanto, ele poderia matá-los com o simples comando da palavra, ou até proibi-los de existir, fazendo com que todos nascessem sempre héteros, não? (E sim, isso é uma provocação para quem se irrita mais do que Deus parece se irritar com os problemas privados da vida sexual alheia).

Enfim: Se Bolsonaro não é o Demônio que suas falas e atos demonstram, no mínimo, ele avaliza, com direito à chancela presidencial da República Federativa do Brasil, todo tipo de mal e danação que todo ser humano, realmente de bem, repudia como: Por exemplo, matar alguém que pensa diferente de mim, ou que ama alguém que eu não amaria.

E esse penúltimo parágrafo é o melhor cenário. Eu garanto

O pior, eu expus ao longo do texto inteiro…

Mas, sumarizo: Bolsonaro está testando o quão vulnerável é o sistema democrático brasileiro. E nem seus donos (que o tiraram da coleira), nem seus eleitores; mas só Deus sabe o que ele fará quando descobrir as vulnerabilidades desse sistema.

E não existe sistema totalmente seguro…

E o assunto é: Ransomware (e porquê veremos esse episódio outras vezes…)

E, mais uma vez, a TI (Tecnologia da Informação) ganha as páginas de notícias, pelos motivos errados: Uma falha de conduta das empresas, expôs seus equipamentos, e o bem mais valioso da TI (a informação) ao ataque de “sequestradores de dados” (a função de um Ransomware).

Foto da banda
Teria o grupo de loirinhos do fim dos anos 1990 (chatos bagarai, devo acrescentar) descoberto que eram melhores hackers do que músicos??? – Fonte da imagem: Wikipedia.org. Edição minha.

Disclaimer 1: Se você é um profissional de TI, notará que farei diversas simplificações e generalizações que, óbvio, não refletem a complexidade real dos sistemas, protocolos, métodos de ataque, metodologias de gestão e etc. Tenha em mente, contudo, que esse texto foi escrito para que qualquer um acompanhasse o raciocínio que quero desenvolver, e que este não é um blog de TI; logo, a precisão será preterida diante da facilidade de compreensão.

Na semana que passou, os Hanson’s tiveram uma oportunidade de ouro para um grupo fora de qualquer holofote: 5 minutos de fama gratuita e inesperada, até a pesquisa no Google Bing, revelar que não: Ransomware não é uma cria tecnológica dos mocinhos famosos no fim dos anos 1990.
A piada é ruim, eu sei mas, eu vi muita gente escrevendo “hansonware”… Faz parte da realidade do mundo em que todos escrevem o que querem; como estou fazendo agora…

Ransomware é um dos vários tipos de Malware (ou, como chamávamos antigamente, “Vírus de computador”) que vem causando um estrago monumental na vida das empresas e pessoas que utilizam computadores conectados à Internet (virtualmente: qualquer equipamento que tenha real serventia no mundo de hoje), sem as devidas atualizações (que deveriam ser rotineiras e (são) gratuitas).

A palavra inglesa “Ransom” significa “Resgate”, como aquele exigido por sequestradores em troca de suas vitimas. “Ware” é a terminação comum da Tecnologia, e pode ser genericamente traduzida como “categoria” ou “tipo” ou, semanticamente, “parte/porção”… Ou seja, Hardware é a “parte” física do seu computador (a placa de vídeo, o mouse, o processador). E Software, a porção virtual (o sistema operacional, o programa de edição de fotos, o navegador de Internet; e o “vírus”).

Um Ransomware é um tipo de Malware (já que causa dano), na categoria de “sequestro de dados”.
Todo Software que faz mal ao seu computador está na grande categoria dos Malwares (Malicious-Softwares). Eles podem parar o sistema operacional, roubar dados seus (como senhas e login [nome de usuário]), alterar o funcionamento de certas funções e programas, espionar o que você faz etc.

A dica para diferenciar um Ransomware de outros tipos de programas mal-intencionados é que os Ransomwares têm o poder de criptografar seus dados (ou seja, embaralha-los de tal forma que você não possa mais utilizá-los) e cobrar a “decriptografia” (ou, “desembaralhamento”), caso você esteja disposto a pagar uma quantia (neste caso, em dinheiro virtual [porque é mais difícil de rastrear]) aos donos do programa maldoso. Não é possível remover a criptografia à força. Afinal, é pra isso que ela serve: Proteger seus dados de qualquer um tentando obtê-los na marra. Mas, geralmente, você é o dono da chave de decriptografia. Não neste caso.

Antes de seguir com minha argumentação, eu sou compelido a garantir que ninguém considere-se desavisado das minhas ligações com a empresa em questão; do fato de que este texto é mera opinião, 100% particular e, jamais, uma opinião de minha empregadora, blablabla. Então, lá vai.

Disclaimer 2: Sou funcionário da Microsoft Corporation; a criadora e mantenedora do Windows e diversos outros produtos. Atuo no time de atendimento presencial ao cliente e não tenho nenhum poder, relação, decisão, influência, quanto ao episódio comentado. Logo, não sou ciente de todas as decisões da Companhia, nem de todos os seus aspectos, contradições, motivos, colaterais e etc.

A opinião contida nesse post é de minha inteira responsabilidade. Nada, absolutamente nada, do que escrevo aqui pode ser copiado, citado, ou retransmitido como sendo a opinião da Microsoft, de seus empregados, ou porta-vozes. Não tenho autorização, nem o conhecimento necessário para emitir opinião em nome da empresa, especialmente, no que tange ao assunto Segurança, já que não é minha área de especialização.

Esta opinião, como toda e qualquer opinião, é passível de erros e má-interpretação dos fatos e, portanto, não deve ser entendida ou tratada como o mais fiel retrato de uma verdade irrefutável sobre o caso, os acontecimentos, os envolvidos, as consequências, e tudo o que cerca e decorre deste assunto.

Ninguém, nem meu gerente imediato, nem a liderança da companhia, nem nenhum canal interno ou externo, solicitou, autorizou, endossou, apoiou, ordenou, pediu, foi informado/consultado, ou de qualquer outra forma, influenciou na elaboração desse conteúdo, sendo exercício da minha livre escolha e livre expressão de pensamento. Portanto, recae sobre mim, e só sobre mim, qualquer efeito que tal opinião possa causar.

There you go… Agora, você sabe que quem escreve deste lado aqui é o Rodrigo, filho da Raquel (mais uma vez, feliz dia das mães, mãe!) e nada mais. Porta-voz só d’ele mesmo, e de mais ninguém.

Existe algo bem curioso nesse post, também: É a primeira vez que eu falo de Tecnologia da Informação (TI), por aqui. Acho que isso dá a entender que minha área me interessa menos que a crise na Síria, talvez? Espero que não; só gosto de muitos assuntos, mesmo…

De quem é a culpa?

Bem, esse é o primeiro defeito da TI (antes fosse da TI) no Brasil: Nós nos preocupamos muito mais em achar em quem botar a culpa do que em entender porquê o problema ocorreu. Aí, demite-se quem não conseguiu jogar a culpa no próximo da fila (se existir um próximo), e o real problema se mantém ali; não corrigido, até a próxima ocorrência.

E, como sempre digo: Falo “no Brasil” porque é a este país que minha experiência se resume. Neste caso, experiência profissional. Não posso falar dos outros países.
São 14 anos desde que comprei a “Bíblia” do Windows Server 2003 do Julio Battisti e, com ela, iniciei minha profissionalização em Sistemas Operacionais para “Servidor”, escolhendo a área de Infraestrutura dentro da TI como minha especialização de carreira. Já lia sobre tecnologia em 1995, mas, esse foi o primeiro livro “sério”.

Se você não for da área, precisa saber que TI é como Medicina. Talvez, tenhamos bem mais ramificações do que os médicos, já que mexemos em sistemas diferentes com arquiteturas diferentes. Todos os seres humanos tem o aparelho digestivo, o sistema respiratório, mas, sistemas da informação podem ser absolutamente diferentes, até mesmo no desenho interno do Hardware (RISC vs CISC, Mainframe vs Baixa Plataforma etc.), como gerenciam memória, como avisam quando há algo errado e, por aí vai. Logo, o número de especialidades dispara.

Eu escolhi Infraestrutura. Mesmo dentro da “Infra”, existem as pessoas de Redes, Banco de Dados, Segurança… E cada uma delas sabe de sistemas e conceitos que a outra não domina (em geral). Para além da Infraestrutura, ainda existem equipes de Desenvolvimento e Qualidade de Software, Equipes de Processos e Padrões, Áreas de Controle e Auditoria etc.

Enfim, exatamente como um Endocrinologista não sabe fazer uma operação no Cérebro, o mesmo vai ocorrer se você colocar um profissional de Programação para cuidar do seu Firewall (um programa que controla acesso a uma rede). Ele vai fazer o melhor que pode; pode até entender o conceito geral de um Firewall (talvez, tenha a capacidade de programar um “do zero”) mas, ele não treinou pra administrar aquilo (e administrar é bem diferente de criar ou instalar; saber um não garante o outro), não entende os jargões e os conceitos da área e vai fazer muitas escolhas erradas.

TI ou bode expiatório?

Bom, tudo isso pra dizer que: Toda vez que algo na TI não sai como se esperava, é comum que o pessoal de Infraestrutura tenha que se explicar antes de todo o resto. Isto porque eles estão ali para manter as coisas funcionando: Rede, Servidores, Segurança, Sistemas. Tudo.
Para que você, com seu cliente (Notebook, Smartphone, PC), possa usar os serviços que a TI deveria oferecer. Da Internet ao e-mail, e até uma simples troca de senha. Tudo depende de que a Infraestrutura esteja fazendo sua parte.

Mas, antes de você entender porque está tudo errado quando se procura um único culpado numa crise como esta (que já afetou não menos que 200 mil computadores, em mais de 70 países, pelos últimos relatos), você precisa entender como nós estruturamos a operação de um departamento de TI. E conhecer os 3 pilares:

Os 3 pilares da Gestão de TI: Pessoas, Processos e Tecnologia
Os Pilares da TI: Pessoas, Processos e Tecnologia – Fonte: Linkedin.com

A ideia não é formar ninguém em Gestão de TI. Mas, você precisa entender que a TI só funciona direito quando isso tudo está no lugar, e operando da forma correta. Se você acredita na seriedade disso ou não, não me importa, mas, em uma grande parte dos clientes brasileiros, isso é só um sonho muito distante e também por isso, somos tão amadores na gestão dessa área.

O pilar “Pessoas” é o pilar mais ignorado no Brasil. Infelizmente e diferentemente de várias profissões, qualquer um, qualquer um mesmo, pode se chamar de administrador de Sistemas. O problema é que a TI é feita de Pessoas, de ponta a ponta. O sujeito que programou, a sujeita que testou, o sujeito que implementou e configurou, e a sujeita que vai administrar. Se qualquer elo dessa corrente não souber o que está fazendo, não é surpresa que o Sistema resultante tenha falhas. Algumas, catastróficas.
Quem utilizará o sistema final provavelmente será uma pessoa, certo? Mas, ela também não é treinada e expõe a risco toda a rede em que encostar.

Depois, vem o pilar “Processos“. Bem, sabe quando você chega em casa e instala um novo programa no seu PC, sem maiores considerações? Talvez, porque seu amigo disse que era bom, ou talvez porque você viu em um site de Tecnologia e está a fim de testar?
Bem… Se sua TI é séria, lá não funciona assim. Há um processo para o Software ser escolhido. Levanta-se o tipo de função que ele deve atender. O candidato é comparado com vários outros disponíveis no mercado, ambientes de teste são criados para validar que ele cumpre o que promete; e vários fatores são analisados como custo, facilidade de uso, suporte do fornecedor, integração com o ecossistema. Não é uma decisão fácil, nem leviana.
Tudo isso está desenhado em um Processo de adoção de novas tecnologias. E há outro Processo para o descomissionamento, ou seja, a “aposentadoria” do dito cujo.
Todos os processos tem a função de regular a TI para que nada aconteça de forma abrupta, e que todos os riscos (ou a maioria deles) estejam identificados e as contramedidas, documentadas.
No entanto, os Processos também ficam velhos. Precisam ser revistos com melhores práticas, com metodologias novas que ajudem a medir e instrumentalizar o ambiente. Às vezes, são redesenhados, e às vezes têm que ser descartados e escritos do zero.

Por fim, e só por fim, vem o pilar “Tecnologia“. Aqui é onde entra o Software e o Hardware em si, suas peculiaridades, o conhecimento necessário para gerenciá-los, seus requisitos, suas arquiteturas, troubleshooting (investigação de problemas) etc.

O pilar “Tecnologia” só funciona quando os outros 2 pilares estão funcionando direito. A Tecnologia não consegue corrigir os outros pilares. Aliás, nenhum pilar corrige um problema inerente de outro.

Toda essa longa explicação pra explicitar um único aspecto: Existe método, existe ciência e existe uma correlação fixa entre esses pilares. Não se administra ambiente de TI por “feeling“. Não se administra TI (se você quer que dê certo, claro) baseado no que você fazia desde que eu era um bebê (como você gosta de lembrar, como se isso fosse algum tipo de credencial, numa área que se transforma e descarta conhecimento velho todo mês…).

Não importa se você usava o DOS 1.0. Isso não lhe torna apto a cuidar de um ambiente baseado em tecnologia de 2016. O que te torna apto é estudar, investir tempo e dinheiro no aprendizado do novo sistema/arquitetura/conceito de gestão.
Se você parou de estudar há mais de 2 anos, se você não tem um método processual de gestão, uma forma de constatar os fatos e situações com mais de uma fonte… Enfim, você não tem condições de gerenciar sua TI. Sinto muito, mas é a verdade.

Pior do que isso: Você não arruma a deficiência de um pilar mexendo com outro, repito. Ou seja, se seus usuários não têm treinamento para lidar com um e-mail suspeito e clicam em links de desconhecidos (Pilar Pessoas: Treinamento), você não vai resolver esse risco NUNCA, via Tecnologia (por exemplo), mesmo que compre o Antivírus mais caro do mercado (Pilar Tecnologia: Aquisição).

Infelizmente, isso é o que mais vejo: Não há processos na empresa, não há treinamento para o usuário ou administrador, mas, o gerente de TI acha que comprando a versão 2.0 PlusPlus do Software, todos os problemas desaparecerão. Só que não…
Cria-se um novo problema (dos grandes): Aprender sobre o novo Software (na empresa que não tem processos e não treina seus funcionários no que já tinha antes)…

Pensando em tudo isso: De quem é a culpa?

Eu não tenho coragem de falar que a culpa da contaminação é do analista de Segurança. Ele pode ter avisado o gerente da necessidade de Patching. Mas, há sempre uma explicação “muito boa” para não atualizar (de “o software legado não funciona” a “time que tá ganhando não se mexe”).

Ele pode não ter treinamento e ter entrado numa vaga de SI (Segurança da Informação), porque a empresa contrata mal e prepara mal seus profissionais de TI.

Em resumo, é muito fácil demitir o “cara da SI”. É muito fácil demitir o cara do Firewall… Mas se a área de TI é tratada de forma desrespeitosa; se ela é sempre encarada como um custo – muito embora, a empresa não consiga funcionar um dia sem a rede de computadores – como vamos estar preparados para lidar com as novidades de um sistema e com os riscos que sequer conseguimos mapear (quando haverá o próximo ataque? Quais serão os vetores de ação? E quais são as contramedidas?)?

Isso ocorre em empresas que não vendem TI para seus clientes, mas, ainda mais triste, ocorre em empresas onde o serviço principal ao cliente final é, sim, a Tecnologia.
Não está ligado a um tipo de empresa, mas sim, a um tipo de pensamento. O pensamento de que manter a TI é caro, e de que tudo que não se gasta em Tecnologia vira lucro.

O mais insano desse pensamento, tão arraigado em empresas médias, grandes, nacionais, internacionais, privadas ou públicas, da área de TI, ou não… É que o sujeito que toma essa decisão, corta todos os custos que mantêm os pilares bem, remove dinheiro de treinamento, não compra o produto novo na hora certa, não mantém processos revisados por uma equipe competente e, ainda assim, se sente, esquizofrenicamente, no direito de cobrar resultados como se tivesse pago pelo serviço de alto nível.

“Tem que suar a camisa!”… O problema é que a área de Tecnologia não se comove com bordões. O malware não se assusta com frases de efeito. Treinamento, pessoas preparadas, e sistemas atualizados, não são alcançados e mantidos com palavras inspiradoras.

Para ter os melhores médicos, você tem que pagar os melhores salários. Os hospitais sabem disso. Mas, isso é uma piada das grandes na área de TI.
Se você, profissional (com ss e não ç) dessa área, negar um serviço porque ele não é humanamente executável por mil reais (responsabilidade, conhecimento, experiência, treinamentos [caros]; tudo isso entra no seu preço), não há nenhuma novidade que surgirão 5 ou 6 “profiçionais” (com ç) atrás de você, todos dispostos a pegar o projeto. E assim, o mercado de TI segue se deteriorando.

Enquanto o protecionismo e a reserva de mercado são péssimas para o consumidor e para a competitividade, o canibalismo que impera na TI remove qualquer brio dos profissionais da área e demove qualquer um de gastar com treinamentos (já que não é um investimento – você não vai poder cobrar por saber mais e melhor), para ser melhor e fazer melhor o próprio trabalho.

Dizia um colega de trabalho, lá nos idos de 2008:

Quem paga banana, merece trampo de macaco…

Não muito fino, não muito elegante. Mas, por Buddha, como a sabedoria disto é profunda.

A lei fundamental da vida: Tudo que nasceu, um dia vai morrer. Inclusive na TI…

Você nasceu. Você cresceu, ou está crescendo. E um dia (com sorte, bem distante de hoje), você fechará os olhos uma última vez.
Bem… Triste… Forte… Mas…

Não há nada dessa lei da vida que não se aplique a TODOS os pilares da TI.

As Pessoas? As pessoas morrem.

Os Processos? Os processos morrem.

E a Tecnologia? É; ela morre também.

E é ai que a TI no Brasil vai para a várzea, de novo.

Para muito coordenador, gerente de TI, CSM, PjM, CIO, CFO, CEO (e todas as siglinhas que elouquecem o moço dos charts de Plano de Carreira do RH), os Softwares que eles adquiriram um dia, TÊM DE SER ETERNOS

Essa expectativa não sobrevive à realidade. Ela é 100% surreal. Quer ver como?

O Ransomware que gerou todo esse caos na Terra e que é o motivo de eu estar escrevendo, usa uma falha num protocolo chamado SMB (falha também presente no seu dialeto, o CIFS) em sua versão 1.
O SMB (Server Message Block), é um protocolo criado em MIL NOVECENTOS E OITENTA E QUATRO… E adotado pela Microsoft em 1990… Esse protocolo permite a cópia de arquivos entre máquinas, a capacidade de imprimir em uma impressora conectada na rede e outros detalhes. Repito: Foi criado em 1984…

Bom. Olhe pra toda a tecnologia ao seu redor… Tela touch, WiFi, HDTV, Forno de Microondas… Quer saber? Nada disso existia em 1984.
Mas, a exigência dos que entendem que o erro é da Microsoft – embora a falha afete qualquer sistema com essa versão do protocolo – (e são muitos os que culpam a Microsoft) é que esse protocolo de 1984 continuasse perfeito e seguro, 32 ANOS depois de sua criação. O protocolo veio antes mesmo da Internet existir abertamente; ela era um projeto de laboratório, tanto quanto era o SMB/CIFS na IBM.

Por que ninguém tirou um protocolo tão velho do ar?

Olha, não posso falar de cada caso; teria de conhecê-los de perto. Mas, via de regra, não foi por falta de aviso, recomendação ou pedidos.

Em geral, o cliente vai se defender dizendo que a aplicação legada dele depende disso. Ou vai dizer que, se está funcionando, não vê porquê desabilitar. “Transtorno”, eles dizem.

Estamos na versão 3.0+ (usada no Windows 10 ou Server 2016; basicamente, uma versão com melhorias e novas funções em relação ao Windows 8 e Server 2012). Mas, o SMB v1 continua lá, porque o mercado é extremamente chato se você não garantir uma retrocompatibilidade com 3 ou 4 versões anteriores. E paga-se o preço disso, óbvio.
Algumas vezes, nós “forçamos” a barra e dizemos “chega! Não vamos mais suportar um negócio com 30 anos”. Mas, mesmo assim, sempre surge um “caso de negócio” ($$$) que dá um jeito de ser a exceção… E onde passa um boi, passa uma boiada.

Enfim… Seja qual for a resposta de porquê o protocolo foi mantido pelas empresas, agora vemos um preço alto pela não-manutenção. A falha de segurança explorada pelo WannaCry foi corrigida em Março deste ano (2017). E as empresas não conseguiram agendar a correção a tempo (2 meses depois).

Não precisaria dizer, mas isso não é algo aceitável. Diga o que quiser. Você não larga a sua porta de casa 2 ou 3 meses sem fechadura. É exatamente o que as empresas afetadas fizeram com seus servidores e clientes. Pra piorar o descaso: A “troca da fechadura” (a aplicação do patch) era de graça…

Sei que todos querem arranjar um culpado, mas, com toda sinceridade do mundo, para todo gerente e responsável por departamento de TI caçando alguém para culpar: Eu sugiro o espelho mais próximo.

Não há nenhuma desculpa aceitável para não fazer o patching management de atualizações na categoria Critical, o mais rápido possível (se for possível, no mesmo dia em que ela foi publicada – porque se você foi informado sobre elas, os hackers também foram).

O documento é antigo (2012) mas, segue: Security Bulletin Severity Rating System

Critical Updates: Microsoft recommends that customers apply Critical updates immediately.

Fim de papo.

Mas, vamos analisar o caso do servidor com aplicações legadas, que não pode sair do ar. É a desculpa de grande parte dos grandes clientes que não atualizam o Sistema Operacional (e, portanto, saem de um ciclo de vida de DEZ ANOS, e ficam sem correção gratuita).

Se você seguisse o PDCA para seus Softwares, não teria porque sofrer…

Imagine que você é o gerente de TI da empresa Pomposo.com (pra quem é de TI, o nome é familiar)… A demanda é por um Software que faça a ligação do sistema de atendimento ao cliente com o calendário dos Smartphones.

Você pode usar o PDCA (Plan-Do-Check-Act) para lidar com todo o ciclo de vida do produto. Você usaria o PDCA até para escolher o primeiro produto.

O mais trágico e cômico é a SIMPLICIDADE do PDCA, e ainda assim a sua eficiência em gerir ciclos de vida, e mesmo assim, o não-emprego dele nas TIs que preferem método algum de gestão (vai que dá! go horse!) do que adotar algo simples, mas funcional. Há coisa mais complexa, robusta, para gerir o projeto, o ciclo de vida etc.? Claro que há, mas se você não consegue usar o básico de gestão, vai querer algo difícil pra ter um nome vistoso de processo, mas não saber como usar?

Voltando ao PDCA da solução:

Plan: Quais são os Softwares que fazem a função CRM <—> Calendário?
Do: Montar PoCs (Proof of concept) para testar os produtos competidores.
Check: Fazer um grupo de usuários testar as opções e pedir feedback sobre usabilidade e preferências; avaliar a verba do projeto e o custo de cada plataforma; estimar o hardware para as soluções mais bem cotadas… Etc.
Act: Comprar o Software vencedor.

Ok. Esse foi o ciclo de escolha. E agora? Agora, um novo PDCA é criado para instalar, testar, liberar e mudar o ambiente do status de projeto para produção.

E depois? Depois, um novo ciclo PDCA surge para cada atualização do produto.

Depois? Desde o dia um, existe um PDCA cuidando do ciclo de vida desse produto. Avaliando o feedback dos usuários, o parecer do fabricante, o risco de descontinuidade, e agindo para ter a reserva financeira necessária para quando chegar a hora de aposentar a solução. Essa hora SEMPRE vai chegar. Não é aceitável que sua TI não se prepare para esse dia.

Fazendo o PDCA de cada produto (e pode ser um grande PDCA, ou vários mini-PDCAs), nenhuma TI é pega de surpresa (até porque, se você for pego de surpresa, 10 anos após o lançamento do produto que, agora, perde o suporte, eu tenho que desconfiar da sua capacidade de gestão; sinto muito se isso te ofende).

O PDCA é sempre cíclico, então, o fim de um ciclo gera um outro, até que aquele ciclo de vida (que nasceu, cresceu e, um dia, perecerá) se encerre. E nasce outro, para o que vier pela frente. Sempre assim. Vale pra pessoas, processos, bem como para a tecnologia.

Ciclo PDCA de 1 até N. O ciclo consiste em realizar as ações em circulos, até achar a resposta: Plan-Do-Act-Check
O ciclo PDCA é simples, mas, fundamental para a gestão de ambientes em infraestrutura, em uma operação bem gerenciada de TI. Pode parecer muito bobo/rústico mas 90% da TI brasileira não entrega nem isso. – Fonte da imagem: Wikipedia.org

E, no fim do dia, eu sempre vou ter muita dificuldade de aceitar a validade de qualquer tentativa de manter um Software no ar por mais de 10 anos, quando o gerente de TI, o Diretor, ou qualquer outro manda-chuva não suportam ficar com o mesmo carro por mais de 2 anos.

O carro envelhece em apenas 2 anos, embora o conceito de estradas não tenha mudado muito nos últimos 30… Mas, o Software não pode envelhecer em 10… É isso? Gente competente mandando na Tecnologia, hein?! #SQN

A maior mentira que uma empresa pode contar para si é que a TI precisa mais dela, do que ela precisa da TI.

É insano dizer isso. Porque deveria ser óbvio que algo está errado.

Mas, eu passo boa parte do tempo convencendo empresas e BDMs (Business Decision Makers) de que eles precisam levar a infraestrutura a sério.

“Levar a infraestrutura a sério” não tem relação direta com a questão “Custo”. Dá pra levar a sério, por exemplo, tendo documentação e processos, primeiro, e depois, sim, pode haver custos, mas não é uma relação causal direta.

É claro: Não posso deixar de me espantar com uma empresa que troca Smartphone da versão 2016 para 2017 para todos os Diretores e Gerentes, enquanto mantém 4 mil servidores com Windows Server 2003. É evidente que quiseram agradar quem “assina o cheque”, mas também fica claro que não há ninguém realmente consciente à frente da TI para “fazer um barulho” sobre as prioridades erradas da empresa.

Sinceramente, é uma vergonha que alguém apresente que a TI teve um investimento de X no ano Y se, na verdade, gastou com gadgets (tranqueiras) para os engravatados, escolhendo deixar uma parte da sua operação com equipamentos sem garantia. Sua empresa distribui brindes e ignora a Tecnologia; essa é a “política de TI” dela.

Embora eu entenda que uma padaria possa ignorar sua rede feita com um Hub e 3 máquinas compradas em um feirão de velharias; a impressão que o mercado brasileiro passa, muitas vezes, é de que há “donos de padaria” demais em cargos importantes, tomando decisões que na melhor hipótese, são mal embasadas.

Algumas empresas não conseguem emitir uma nota fiscal de forma manual. Outras, param estradas quando seus sistemas de informática param. Outras só têm dinheiro entrando no caixa de forma virtual: Nada de notas, nada de cheques, nada de moedas. Tudo virtual.
Mesmo assim, tantas empresas nesses grupos se dão ao luxo de fingir para si mesmas que podem prescindir de sistemas de informática, atualizados e seguros, operando 24 por 7…

Eu entendo, claramente, que uma empresa que vende carne moída precisa mais de bois e moedores, do que precisa do novo Windows 10. Faz sentido.
O que não entendo é que se nenhum boi entra na fábrica sem que um computador emita uma ordem, o computador não é mais importante que o boi moído, mas, é tão importante quanto.
Se ele parar de um lado, do outro não sai mais carne moída. DA MESMÍSSIMA FORMA que seria caso faltasse boi ou moedor.
Como uma empresa pode priorizar só um se, para produzir, não pode faltar qualquer um deles?

Antes fosse só a empresa de carne moída. Essa realidade está arraigada na cultura das principais organizações com que já trabalhei. A pequena, a média e a grande. A indústria e o comércio. A privada e a pública. Todas elas têm um ou mais representantes (empresas) que têm esse tipo de pensamento bizarro com relação à área de TI.

Dependem severamente dela para produzir no volume que produzem, entregar o que entregam na velocidade em que o fazem, com a qualidade que executam… Mas acreditam que podem se dar ao luxo de não cuidar da área que faz tudo isso ser possível, com mais eficiência, com mais precisão, com menos margem de erro humano, com eficiência processual, e tudo mais.

Desligar sistemas: Quando eu acho que é hora de baixar as portas.

No Brasil, assim que o ataque começou, muitas empresas decidiram desligar os sistemas.
Isso é pânico, um sintoma do despreparo.
Novamente, se ofendo seus sentimentos, sinto muito. Mas, estou aqui pra dizer o que tem de ser dito.

Vamos analisar com calma: Qual a meta central de um Hacker (ok, deveria ser “Cracker”, mas não vamos complicar)?
Parar os sistemas de uma empresa, organização, órgão público… Essa é a meta central dele. Ou ele faz pelo divertimento, ou faz pela ameaça que força sua organização a fazer algo (como pagar bitcoins).

Como você, profissional (espero que com ss) de TI, quer combater o hacker?

Parando o sistema?

Por que não demito você e contrato o hacker? Ele tem ferramentas melhores e mais divertidas para parar o sistema, que eu esperava que meu departamento de TI fizesse de tudo para manter no ar…

Outros lugares, também por desespero, cortaram a Internet da rede já afetada. O que equivale a desligar um sistema, se sua empresa precisa da Internet para gerar dinheiro.
Pena que, no caso desse Ransomware, parar a rede piorou a infecção. Ele foi projetado para acelerar a contaminação se a conexão com a internet fosse cortada.

Portanto, a falta de preparo e o desespero de quem não sabia o que estava fazendo, levou a parada de sistemas importantes e acelerou a contaminação.

Novamente, tem muito “dono de padaria” sentado em cadeira de TI. E muitos deles, com o cargo de “chefe”.

A Microsoft tomou uma decisão corajosa, mas…

Quando a crise tomou forma, a Microsoft já havia corrigido o problema, meses antes.

No entanto, como qualquer empresa séria, a Microsoft possui ciclos de vida de seus softwares.

Por exemplo, o Windows Server 2016, lançado ano passado, já tem data de término de suporte. É! Isso mesmo. O cliente instalando o Windows Server 2016, hoje, já sabe – se estiver fazendo isso direito – que em Novembro de 2027 a Microsoft não fará mais nenhum tipo de manutenção no sistema operacional. São DEZ ANOS, mais uns quebrados, para recuperar o valor investido no SO, e aproveitar tudo que o sistema pode proporcionar, etc..
Aqui, a fonte da data: https://support.microsoft.com/en-gb/lifecycle/search?alpha=Windows%20Server%202016%20Standard

E isso é, e foi verdade para o Windows Server 2003 e XP. O mesmo para o Windows 2000.
Alguns clientes contrataram o que chamamos de “CSA” (Custom Support Agreement), e estenderam o tempo de suporte para o 2003, mas, mesmo esse tipo de contrato tem limites e não vale mais, por exemplo, para o Windows 2000.

Ainda assim, dado o tamanho da crise e o risco de um servidor 2003 existir em uma rede com sistemas novos, a Microsoft tomou uma postura inédita e liberou o patch para todo mundo, com ou sem o CSA. Nem preciso dizer do imbróglio político-jurídico que isso pode significar, e não tenho o conhecimento necessário para discorrer sobre.

Mas, de uma coisa eu tenho certeza: Criamos um problema grande para nós mesmos.

A mensagem que as empresas mais preguiçosas ouviram foi: “Quando a casa cair, de verdade, a Microsoft vai quebrar a própria promessa (de que sistemas têm começo, meio e fim) e socorrer a gente”. Essa foi a mensagem. E o que fazer com os efeitos colaterais que esse patch venha a causar em sistemas que estão sem update há anos? De quem é a culpa?

Já tinha cliente exigindo correção para o Windows Server 2000. Um sistema com DEZESSETE ANOS de criação. Ano que vem, o servidor desse freguês já pode tirar a CNH. É absolutamente ridículo e vergonhoso que uma TI não tenha tido “tempo” para atualizar esse sistema. Não há uma desculpa valida. Nenhuma:
Argumentos: Custo, dificuldade, complexidade, retorno do investimento, questões legais…
Resposta: DEZESSETE ANOS.

Eu só aceito uma TI usando um sistema com 17 anos de idade, se os gerentes e diretores tiverem um Smartphone com 17 anos, e usarem uma TV de tubo (CRT) em casa, também.

E o Windows Server 2003 e XP? Bom, não tem 17 anos… SÓ TEM QUINZE… Realmente… Aí é diferente… (NÃO É!)

Pra encerrar…

Vamos passar os próximos meses de forma frenética, apagando os incêndios e lidando com os colaterais desse ataque.

As TIs vão demitir um pobre diabo que, ou não é profissional da área, ou tentou avisar mas não foi levado a sério.

Os indivíduos que tomam as atitudes e decisões não serão responsabilizados na maioria dos casos; e como cortam custos o tempo todo, continuarão bem cotados com o CEO e o CFO, e continuarão a tratar a TI como um custo.

A falha desse Ransomware em si, será remediada e fechada. Mas, honestamente, quanto tempo até o próximo patch não ser aplicado porque “afeta o software legado”, ou simplesmente porque “não temos verba para patching management”?

Se você acha que esse ataque do WannaCry/Crypt é revolucionário, é porque ou não é da área de TI, ou porque é novo demais: O “Conficker” atacou milhares de computadores, também muito tempo depois da Microsoft ter corrigido e liberado a correção para todos os sistemas.

Não há nada de novo. A TI continua sendo tratada com desdém e, de tempos em tempos, alguém descobre um jeito de usar a vantagem para alcançar algum objetivo pessoal.
No Conficker, parar os sistemas. No WannaCry/Crypt, dinheiro (parando os sistemas [ou informação], até que você pague para tê-los de volta).

Mais triste que isso é ouvir de colegas de profissão que “se usasse Linux, isso não teria acontecido”. Demonstra que a imaturidade é o padrão da área.
Só existe um motivo pelo qual o Ransomware foi feito para Windows: Porque ele é o produto mais utilizado no mercado. Se todo mundo usasse Linux, os Hackers fariam programas maliciosos para Linux.
Mais do que isso, se uma empresa não consegue manter no ar um sistema gráfico como o Windows, com Wizards e tantos programas embarcados para a manutenção, o que dizer do uso de Linux e um zilhão de configurações mantidas diretamente em arquivos de texto (“entra lá no /etc e faz o hardening de tudo pra mim”)???

O mercado não tem competência para proteger um sistema gráfico e amigável. O que faz alguém pensar que esse mesmo mercado, com essa mesma mentalidade, poderia proteger um sistema mais complexo (e, não por isso, menos eficiente ou com menor qualidade. Só diferente, quero deixar claro…)?

Pra fechar, não há nada de novo. O malware pode ser inédito, roubou tecnologia da poderosa NSA norte-americana e blablabla… Mas, o roteiro de como a contaminação se deu não é novo para ninguém com um pouco de memória.
E é por isso, e porque a TI continua sendo gerenciada por gente que não sabe lidar com Tecnologia (que muda rápido, e exige que você mude também), que esse problema vai se repetir, logo logo.
Não esse ano, já que todo mundo vai fingir que se importa com a TI (como sempre fazem, logo depois de uma crise). Mas, logo, tudo isso cai no esquecimento.

A TI funciona todos os dias na sua empresa, e eu costumo dizer (brincar) que você mede a qualidade de uma TI quando o usuário nem se lembra que tem alguém cuidando do computador dele e de tudo que esse computador depende.

Mas, ao mesmo tempo, quando ela atinge esse nível, alguém que não entende nada de Tecnologia decide que ela gasta demais e demite gente competente para pôr estagiários no lugar. Para de pagar cursos e atualização ao time e não compra mais o Software sucessor, na época certa. “Está tudo estável, porquê continuar gastando???”
Esse indivíduo nunca vai entender que é por tudo que ela “gasta” (investe) e “gastou” (investiu) até ali, que foi possível atingir esse status maravilhoso e ideal de “invisibilidade”.

E, na verdade, vendo quanto $$$ ela devolve aos cofres da empresa (quanto custaria emitir notas manualmente? E se o fechamento financeiro fosse manual? E se tivéssemos que viajar de avião ao invés de fazer uma reunião online?), a TI é mesmo um investimento.

Quando gerenciada por gente competente, claro…


Post Scriptum: Notei que gastei muitas palavras xingando aqueles que lascam diariamente com o orgulho e o brio da minha área profissional. Mas, eu preciso ajudar quem precisa. Então, vou responder a pergunta que ainda é fragmentada nos noticiários.

Se você utiliza o Windows 10, por enquanto você está seguro, porque o Ransomware “WannaCry” não consegue contaminá-lo sem ação do usuário. Claro, se você baixar o vírus e executar, não tem sistema seguro o bastante pra você.

Para qualquer sistema, no entanto, do XP ao Windows 10, o Windows Update é o único jeito de fechar a brecha de segurança explorada.

O boletim MS 17-010 precisa estar presente, ou versão mais nova que ele.
> Verifique se o Windows Update está com o status correto (algo como “Seu dispositivo está atualizado”).
> Execute esse comando, dentro da janela Executar (tecla bandeira do Windows + letra R):
> C:\Windows\System32\control.exe /name Microsoft.WindowsUpdate

É possível tentar atualizar manualmente (caso você desconfie da mensagem do Windows Update, ou queira distribuí-lo individualmente, numa rede, por exemplo):

Updates para sistemas em inglês: Windows Server 2003 SP2 x64, Windows Server 2003 SP2 x86, Windows XP SP2 x64, Windows XP SP3 x86, Windows XP Embedded SP3 x86, Windows 8 x86, Windows 8 x64

Updates para sistemas em outras línguas: Windows Server 2003 SP2 x64, Windows Server 2003 SP2 x86, Windows XP SP2 x64, Windows XP SP3 x86, Windows XP Embedded SP3 x86, Windows 8 x86, Windows 8 x64

Mais informações sobre o Ransomware: https://www.microsoft.com/en-us/security/portal/mmpc/shared/ransomware.aspx

MS17-010 Security Update: https://technet.microsoft.com/en-us/library/security/ms17-010.aspx