Nelson Vaz
Na semana que vem vou sugerir relações entre os termos que têm uma conotação “mental” (cognitiva) na imunologia, como “reconhecimento”, “memória” etc., e autores e temas da epistemologia biológica descrita por exeplo por Gregory Bateson e Humberto Maturana. Nesta área (epistemológica) se destaca um corpo de conhecimentos conhecido como “cibernética” . Como uma familiarização inicial com este tema, submeto hoje o transcrito de um video de Mary Catherine Bateson (2018), filha de Gregory Bateson, sobre “Como ser um pensador em sistemas” que pode ser lido enquanro se assiste ao vídeo. O próprio Bateson inicia uma conversa sobre “O que é epistemologia” (1979) com as seguintes palvras:
Epistemologia é:
a - um ramo da Filosofia ligado à pergunta: "Como é possível conhecer algo?",
e, "O que é a verdade?", e perguntas deste tipo;
b - um estudo de história natural - ou melhor, dois estudos de história natural:
b1 - um estudo de como as pessoas pensam que sabem as coisas;
b2 - um estudo de como as pessoas sabem as coisas - que pode ser algo muito diferente.
Isto tem a ver com a palavra “como”, e com a questão do conhecer.
Todo mundo tem uma epistemologia, senão não poderia conhecer nada.
Aqueles que afirmam não ter nenhuma, têm uma ruim
-x-
COMO SER UM PENSADOR EM SISTEMAS
Mary Catherine Bateson - 2018
https://www.edge.org/conversation/mary_catherine_bateson-how-to-be-a-systems-thinker
(veja o video)
No momento, estou me perguntando como as pessoas pensam sobre conjuntos complexos como a ecologia do planeta, ou o clima, ou grandes populações de seres humanos que evoluí-ram por muitos anos em locais separados e agora estão se reintegrando. Para pensar sobre essas coisas, acho que você precisa de algo como a teoria dos sistemas. Então, voltei a pensar em teoria de sistemas dois ou três anos atrás, o que eu não fazia há muito tempo.
O que me motivou foi a preocupação com o estado do mundo. Uma das coisas que todos nós estamos vendo é que muito trabalho que foi feito para permitir a cooperação internacional ao lidar com vários problemas desde a Segunda Guerra Mundial está sendo desfeito. Estamos vendo o progresso que achamos ter sido feito neste país (Estados Unidos) nas relações raciais sendo revertido. Estamos vendo o colapso parcial - não sabemos até onde isso irá - de uma Europa unida. Estamos nos movendo de volta vários séculos em termos de pensar sobre o que é ser humano, o que é compartilhar o mesmo planeta, como vamos interagir e nos comunicar uns com os outros. Vamos começar do zero muito em breve.
Dois ou três anos atrás, comecei a ser convidada para fazer coisas com a American Society for Cybernetics. Eu ficava dizendo que não tinha feito nada ou pensado nisso por anos, mas eles persistiram. Fui convidada para escrever um capítulo para um enorme manual chamado The Handbook of Human Computation. Basicamente, o que eles queriam dizer com “computação humana” é a colaboração entre humanos e computadores de vários tipos. Eu disse a eles que não sabia nada sobre isso e eles disseram: "Como você não tem tempo para escrever um capí-tulo, escreva o prefácio". Eu perguntei como eu faria isso se não conseguisse escrever um ca-pítulo e eles dissessem: "Nós lhe enviaremos todos os resumos." Fiquei um pouco irritada e disse a eles para conseguirem outra pessoa para fazer isso, mas eles continuaram me man-dando coisas para ler. Primeiro, procurei no Google o que era “computação humana” e descobri que conhecia alguns aspectos deste campo. Então, eu escrevi tudo o que sabia sobre compu-tação humana, enviei e disse a eles: "Vejam, eu não sei nada sobre isso". Eles publicaram aquilo.
Então eu fui à conferência e comecei a voltar na conversa com pessoas que trabalham com IA (Inteligência Artificial). Eu me dei conta de que eu aprendi muito quando jovem, mesmo quando criança, dos meus pais, que estavam envolvidos nas Conferências Macy sobre Cibernética até os anos 1950. Meus pais e outras figuras envolvidas, como Warren McCulloch e muitas outras pessoas, viviam passando lá em casa e conversando o tempo todo, e eu estava lá ouvindo.
Eu não fui direto para a IA; eu estava mordiscando pelas bordas dela. Eu tinha entendido que nossa capacidade de pensar sobre sistemas interativos complexos parecia estar desmoronan-do, que muitos esforços para a cooperação internacional estavam desmoronando; estados que envolviam múltiplos sistemas étnicos ou dialetos estavam se separando; e, de fato, sociedades como os Estados Unidos, com muitos grupos étnicos e grupos raciais, estavam tendo cada vez mais dificuldades tentando cooperar.
Todos nós pensamos com metáforas de vários tipos, e usamos metáforas para lidar com a complexidade, mas o modo como os seres humanos usam computadores e IA depende de su-as epistemologias básicas - depende de estarem acostumados a pensar em termos sistêmicos, estejam eles interessados principalmente em questões quantitativas, se eles estão acostuma-dos a usar jogos de vários tipos. Muito daquilo em que as pessoas empregam a AI é para simu-lar algum padrão no mundo exterior. Por outro lado, as pessoas usam o tempo todo uma metá-fora sobre o mundo como um padrão para outra metáfora.
Os americanos tendem a falar sobre a "guerra contra as drogas", a "guerra contra a pobreza" ou a "guerra contra o câncer", sem questionar se a "guerra" é uma metáfora apropriada. Esta é uma maneira de falar sobre complexidade, mas se ela não se encaixa bem, você vai cometer erros na maneira como lida com seus problemas. A guerra contra a pobreza fracassou em par-te porque a pobreza não é algo que você possa derrotar, e isso faz da guerra uma metáfora inadequada. O mesmo acontece com a guerra contra as drogas, que nos levou a algumas situ-ações desagradáveis.
Um dos problemas quando você introduz tecnologia em uma nova área é que ela força você a simplificar demais. Ou seja, as possibilidades da IA estão lá desde o início do pensamento so-bre computadores, mas há sempre esse sentimento de desapontamento por existirem limita-ções no que você pode fazer. Continuamos tentando fazer coisas mais complexas.
Até bem recentemente, não se podia dizer que os computadores aprendessem. Criar uma má-quina que aprenda a pensar com mais eficiência foi um grande desafio. No mesmo sentido, uma das coisas sobre as quais me pergunto é como poderemos ensinar uma máquina a saber o que ela não sabe, mas que talvez precise saber para abordar um problema específico de ma-neira produtiva e perspicaz. Este (entendimento) é um enorme problema para os seres huma-nos. Demoramos bastante para aprendermos a resolver problemas. E precisamos de ainda mais tempo para percebermos que não sabemos tudo o que precisaríamos saber para resolver um problema específico, que obviamente envolva muita complexidade.
Como você lida com a ignorância? Eu não quero dizer como você elimina a ignorância. Quero dizer, como você lida com a consciência do que não sabe e não sabe como lidar com um pro-blema específico? Quando Gregory Bateson estava discutindo sobre propósitos humanos, foi aí que ele se envolveu com o ambientalismo. Estávamos fazendo todo tipo de coisas com o pla-neta em que vivemos sem reconhecer quais seriam os efeitos colaterais e as interações en-volvidas nisto. Naquele momento, estávamos pensando mais sobre efeitos colaterais do que sobre interações entre vários processos. Quando você começa a entender a natureza dos efei-tos colaterais, você faz um conjunto diferente de perguntas antes de tomar decisões e proje-ções e análises do que vai acontecer.
A mesma coisa é verdade, por exemplo, com o ensaio de novas drogas. A primeira pergunta que as pessoas fazem é: "Este medicamento funciona?" Mas a próxima pergunta deveria ser: "O que mais a droga faz além de lidar com esta patologia?" Um certo número de drogas é reti-rado do mercado todos os anos quando as pessoas percebem que elas têm efeitos colaterais que podem ser mais sérios do que aquilo que eles estão tentando corrigir.
Que analogia há entre isso e o mundo da computação, eu não sei. O que fazemos é tentar con-figurar processos para solução de problemas e fornecer os dados para análise, mas não damos à máquina uma maneira de dizer: "O que mais eu deveria saber antes de analisar essa ques-tão?" Tem havido tanto entusiasmo e sensação de descoberta em torno da revolução digital que estamos em um momento em que superestimamos o que pode ser feito com a IA, certa-mente como ela está no momento.
Um dos elementos mais essenciais da sabedoria humana é a humildade, saber que você não sabe tudo. Em um certo sentido, não aprendemos a criar humildade em nossas interações com nossos artefatos. O computador não sabe o que não sabe e se dispõe a fazer projeções mes-mo sem receber todas as informações relevantes para fazer essas projeções. Como chegamos a isso? Eu não sei. É importante estar ciente disso, perceber que há limites para o que pode-mos fazer com a IA. É ótimo para a computação e para a aritmética e economiza grandes quantidades de mão de obra. Parece-me que falta humildade, falta imaginação e falta humor. Isso não significa que você não pode incluir essas coisas em suas interações com seus artefa-tos, particularmente na comunicação com outros seres humanos. Mas isso significa que vão faltar elementos de inteligência e sabedoria - eu gosto da palavra sabedoria, porque é mais multidimensional.
Quando criança, eu vi as primeiras conversas sobre a revolução cibernética acontecendo ao meu redor. Eu posso lembrar exemplos e perceber que quando um dos meus pais estava ten-tando me ensinar alguma coisa, estava diretamente ligado ao que eles estavam fazendo e pen-sando no contexto da cibernética.
Uma das minhas lembranças favoritas da minha infância é a de meu pai me ajudando a montar um aquário. Em retrospecto, entendo que ele estava me ensinando a pensar sobre uma comu-nidade de organismos e suas interações, sua interdependência e a questão de mantê-los em equilíbrio para que se tornasse uma comunidade saudável. Quando isso ocorreu, estávamos apenas no começo de nossa visão do mundo natural em termos de ecologia e equilíbrio. Em vez de enumerar o que estava lá, eu estava aprendendo a olhar para os relacionamentos entre as coisas e não apenas a separar as coisas.
Meu pai não me disse que estava me ensinando sobre cibernética. Eu acho que não seria sua forma de fazer as coisas. Outra maneira de dizer é que ele estava me ensinando a pensar so-bre sistemas. Gregory cunhou o termo "cismogênese" em 1936, a partir da observação da cul-tura de uma tribo da Nova Guiné, os Iatmul, em que havia muito do que ele chamava de cis-mogênese. A cismogênese é agora chamada de "retrocontrole positivo” (feedback positivo); é o que acontece em uma corrida armamentista. Você tem um ponto de fricção, onde se sente ameaçado, digamos, por outra nação. Então, você fabrica mais alguns tanques. Eles olham pa-ra isso e dizem: "Eles estão se armando contra nós" e fabricam muito mais tanques. Então vo-cê também fabrica ainda mais tanques. E eles conseguem mais tanques, aviões ou bombas, ou seja o que for. Esse é um feedback positivo.
A alternativa seria se você visse os tanques e dissesse: "É melhor me livrar dos tanques. Va-mos esfriar a corrida armamentista, em vez de aumentar a escalada". Gregory estava falando sobre isso e realmente não tinha um termo para isso, então ele inventou o termo cismogênese. Gênese no sentido de criar mais e maiores, cismas (conflitos, fraturas, separações). Isso foi antes do conceito de feedback positivo ter sido cunhado. É disso que ele estava falando, o tipo de feedback que acelera um processo em vez de controlá-lo, o que é um conceito muito impor-tante.
Eu diria que a grande maioria dos americanos ainda acredita que "feedback positivo" é quando alguém lhe dá um tapinha nas costas e diz que você fez um bom trabalho (“You did a good job”). O feedback positivo está dizendo, faça mais coisas assim. Então, se você está tomando heroína ou brigando com seu vizinho, isso vai gerar problemas. O feedback negativo corrige o que você está fazendo. Não é alguém dizendo: "Esse foi um discurso ruim". É alguém dizendo: “Faça o contrário. Pare de construir mais bombas. Pare de tomar mais álcool tão rápido. Dimi-nua a velocidade." O feedback negativo é um feedback corretivo.
Gregory então escreveu um artigo sobre uma corrida armamentista e transferiu seu pensamen-to sobre a tribo da Nova Guiné para a natureza das corridas armamentistas no mundo moder-no, que coisas que ainda temos muito.
No início da guerra (2ª guerra mundial), meus pais, Margaret Mead e Gregory Bateson, haviam se encontrado e se casado muito recentemente. Eles conheceram Lawrence K. Frank, que era executivo da Fundação Macy. Como resultado disso, ambos estavam envolvidos nas Con-ferências Macy sobre Cibernética, que continuaram então por vinte anos. Eles ainda citam mi-nha mãe constantemente falando sobre cibernética de segunda ordem: a cibernética da ciber-nética. Eles se referem também a Gregory, embora ele estivesse mais interessado em ciberné-tica como técnicas analíticas abstratas. Minha mãe estava mais interessada em como poderí-amos aplicar isso às relações humanas.
Meus pais olhavam as conferências sobre cibernética de maneira diferente. Minha mãe, que inicialmente apresentou o conceito da cibernética da cibernética, a cibernética de segunda or-dem, saiu da abordagem antropológica para a “observação participante”: Como você pode fa-zer algo e observar a si mesmo fazendo isso? Ela estava dizendo: "Tudo bem, você está inven-tando uma ciência da cibernética, mas está (também) analisando seu processo de inventá-la, seu processo de publicação, explicação e interpretação?" Um dos problemas nos Estados Uni-dos tem sido que aspectos da cibernética explodiram em uma tremenda atividade econômica em toda a ciência da computação, mas grande parte do que dizia respeito à teoria dos sistemas da cibernética ficou assim como uma espécie de enteado. Acredito firmemente que o pensa-mento sistêmico é a parte mais crítica deste problema.
No ponto em que minha mãe disse: "Vocês precisam olhar para o que vocês estão fazendo. O que é a cibernética da cibernética?" o que ela estava dizendo era: "Pare e olhe para o seu próprio processo e o entenda". Eventualmente, eu suponho, você se depara com o problema de recursão infinita, mas eu acho que você se acostuma com isso.
Como você sabe que sabe o que sabe? Quando penso na excitação daqueles primeiros anos das conferências cibernéticas, penso que houve várias perdas. Uma delas é que a explosão de artefatos e de sua fabricação e o enorme efeito econômico da tecnologia da computação, obs-cureceram a curiosidade epistemológica sobre a qual ela foi construída — como sabemos o que sabemos e como isso afeta a tomada de decisões.
Se você usa o prefixo "ciber" em nossa sociedade agora, as pessoas pensam que isso significa um artefato. Ele não evoca todo o mistério de manter um equilíbrio, ou de como um sistema é impedido de se desequilibrar, que foi o tipo de coisa que motivou a questão em primeiro lugar. Provavelmente não é a primeira vez que isso acontece, isto é, que uma tecnologia com um es-pectro muito amplo de usos que tem sido tão eficaz para resolver certos problemas, obscurece outros usos possíveis.
As pessoas não estão usando modelos cibernéticos tanto quanto deveriam. Pensando em me-dicina, por exemplo, estamos pensando mais do que costumávamos sobre o que acontece quando cinquenta anos atrás você tinha catapora e agora tem herpes zoster . O que aconte-ceu? Como o vírus sobreviveu? Ficou escondido. Tomou uma forma diferente. Estamos encon-trando exemplos de problemas que pensamos ter resolvido, mas que podem ter piorado.
Temos chaminés mais altas nas fábricas agora, tentando evitar a poluição e a chuva ácida. O que estamos conseguindo é que a fumaça é liberada mais alto, e continua a descer sob a for-ma de chuva ácida. Vamos analisar isso. Alguém tentou resolver um problema, o que eles fize-ram - eles reduziram a poluição. Mas ainda colocamos fumaça na chaminé e pensamos que ela desaparece. Ela não desaparecu. Ela foi para algum lugar. Precisamos olhar para o sistema inteiro. O que aconteceu com a fumaça? O que aconteceu quando o fertilizante usado na plantação foi lavado pela água para riachos e córregos? Nesse sentido, estamos usando a tec-nologia para corrigir um problema sem entender a epistemologia do problema. O problema está ligado a um sistema maior e não é solucionado por uma correção rápida.
Se você olhar para as conferências sobre cibernética, você encontrará muitos exemplos que poderiam ser aplicados a problemas sociais e humanos, mas não foram. A maioria das pesso-as não aprende sobre cibernética. Eles compram artefatos. A cibernética, porque ela desenvol-veu todo um ramo da teoria da comunicação, é um modo de pensar, não é uma indústria. Em nossas relações com outras nações, por exemplo, ficamos presos na cismogênese - corridas armamentistas, competições, escaladas de vários tipos - sem que as pessoas percebam que é isso que está acontecendo, sem que elas pensem naquilo em que precisamos atentar para re-solver um problema.
Nós pensamos que podemos resolver o vício em drogas por policiamento punitivo. Não funcio-na. De fato, cria mais trabalho para policiais e guardas nas prisões. Não estamos usando a teo-ria dos sistemas para pensar sobre problemas sociais na maior parte do tempo. Problemas de negócios, sim. Existem especialistas. As escolas de negócios até ensinam teoria de sistemas. Mas não estamos criando nossos filhos para serem pensadores de sistemas. E é o que preci-samos fazer.
Você não precisa conhecer muita terminologia técnica para ser um pensador de sistemas. Uma das coisas que eu tenho percebido ultimamente, e que eu acho fascinante como antropóloga, é que se você olhar para sistemas de crenças e religiões que remontam à história, em todo o mundo, muitas vezes o que você percebe é que as pessoas têm intuitivamente entendido sis-temas e metáforas usadas para pensar sobre eles. O exemplo que me agradou foi pensar no panteão dos deuses gregos - Zeus e Hera, Apolo e Deméter, e todos eles. De repente, percebi que na mitologia eles são casados, têm filhos, o sol e a lua são irmão e irmã. Há brigas entre os deuses e casamentos, divórcios e assim por diante. Assim, você pode usar o panteão grego, porque é baseado no parentesco, para aproveitar o que as pessoas aprenderam com a obser-vação de seus amigos e parentes.
Acontece que o sistema religioso grego é uma maneira de traduzir o que você sabe sobre suas irmãs, e seus primos e suas tias em conhecimento sobre o que está acontecendo com o clima, a chuva, as plantações e as relações internacionais, e todos os tipos de coisas. . Uma metáfora é sempre uma estrutura para pensar, usando o conhecimento disso para pensar sobre aquilo. A religião é uma ferramenta adaptativa, entre outras coisas. É uma forma de pensamento analó-gico.
A outra coisa que gosto de falar é que levamos uma máquina analógica conosco o tempo todo, chamada “nosso corpo”. Ele tem todos esses diferentes órgãos que interagem; eles são inter-dependentes. Se um deles se desequilibrar, os outros se desequilibrarão, eventualmente. Isso é verdade na sociedade. É assim que a doença se propaga através de uma comunidade, por-que tudo está conectado.
Há algumas outras coisas que são muito impressionantes. Se você olhar para o Antigo Testa-mento, as Escrituras Hebraicas, o que você vê - o que você também pode ver em crianças pe-quenas - é que elas partem das diferenças entre as coisas. Mamãe não é o mesmo que papai. Papai não é o mesmo que irmão. Eu me lembro da minha filha aprendendo a palavra “ao-ao", que obviamente era “au-au". Mas então ela disse que a vaca era um “au-au", porque tinha qua-tro patas, eu acho. Mas então você tem que aprender a distinguir a vaca do cachorro. Quando pensamos em uma criança se desenvolvendo, você tem que aprender a distinguir entre as coi-sas - isto é isto e aquilo é aquilo. Começando com o Livro do Gênesis, cada coisa é criada se-paradamente. Eles não evoluem por diferenciação. Deus separa o dia da noite, a luz da es-curidão, a terra seca da água. E então você acaba com um grande número de regras de coisas que devem ser mantidas separadas. Você não pode tecer dois tipos diferentes de fibras no mesmo tecido. Você não pode arar com um boi e um burro, deve usar dois bois.
O que você tem é esse processo de diferenciar, que é intelectualmente profundo, mas este é apenas um começo. A taxonomia é uma base essencial para tudo o que sabemos sobre o mundo natural. Nós aprendemos a classificar. Uma abelha não é uma borboleta. Você pode ver esse estágio em muitas formas de religião e mitologia. E depois, em algumas formas posterio-res, a mudança é de fazer distinções para reconhecer relacionamentos.
O que acontece se você olhar para o Novo Testamento é que Jesus continua violando todas as regras sobre manter as coisas separadas, o que deixa as pessoas com raiva, porque é isso que eles aprenderam. Ele está constantemente colocando a questão: "Qual é a conexão?" E não: "Qual é a diferença?" Você pode ver que essa necessidade constante de reconhecer que as coisas são separadas e diferentes e podem ser usadas de diferentes maneiras, e então ver que tudo está conectado e conectado e interdependente, que isso é uma espécie de equilíbrio permanente no intelecto humano. Se você observar a história da mitologia, poderá ver pessoas se movendo lentamente para frente. Você pode olhar para a história da ciência - coisas que antes eram equiparadas que agora vemos como separadas. Há um limite em separar mais e mais partículas elementares (sub-atômicas), mas ainda estamos encontrando mais partículas. Ainda estamos interessados na separação das coisas, mas também estamos descobrindo rela-cionamentos.
Eu me envolvi muito em questões relacionadas à mudança climática. A mudança climática vem do prosseguimento de um caminho sem reconhecer como isso afetará outros aspectos de nos-sa realidade. Dê mais um passo neste problema e veja que uma das coisas difíceis de transmi-tir às pessoas é que quando os seres humanos se sentem desconfortáveis, eles lutam ou se movem. Neste momento, temos uma crise de refugiados, migrações, pessoas deixando as áreas onde seus meios de ganhar a vida não funcionam mais por causa da mudança climática. Também temos conflitos acontecendo quando um país quer controlar mais terras aráveis - o Lebensraum. Então, as pessoas estão lutando por terra ou pelos direitos de pesca.
A maioria das pessoas não percebe isso, mas um mito foi montado sobre a chamada Primave-ra Árabe de alguns anos atrás, onde muitos norte-americanos disseram: "Oh, bem, eles estão se rebelando contra seus governos autoritários e eles então vão se tornar democráticos ". Bem, eles não fizeram isso. A causa da Primavera Árabe foi uma seca de cinco anos, com muitas pessoas tendo dificuldade em alimentar suas famílias, que então migraram das aldeias para as cidades, procurando empregos onde receberiam dinheiro e poderiam comprar comida para su-as famílias. Mas não havia empregos nas cidades, então eles fizeram revoluções.
A tragédia da revolução cibernética, que teve duas fases, o lado da ciência da computação e a teoria dos sistemas, tem sido a negligência do lado da teoria dos sistemas. Escolhemos artefa-tos comercializáveis em detrimento de uma compreensão mais profunda do mundo em que vi-vemos.
—————
transcrição: Nelson Vaz <nvaznvaz@gmail.com>