Resenha do Livro The Onlife Manifesto - Vida na Era da Hiperconectividade

wwwserginfpucriobr SERG Grupo de Pesquisa em Engenharia Semiótica do Departamento de Informática da PUCRio Série de Resenhas EMAPS Ética e Mediação Algorítmica de Processos Sociais Vida na Era da Hiperconectividade EMAPS Resenhas 05 Clarisse Sieckenius de Souza wwwinfpucriobrclarisse Abril de 2021 Como citar este documento de Souza Clarisse S 2021 Vida na Era da Hiperconectividade EMAPSResenhas 05 Rio de Janeiro RJ Brasil SERG Departamento de Informática PUCRio 2021 15 p Disponível em wwwhccinfpucriobrEMAPSuserfilesdownloadsResenha Floridi2015pdf Esta obra é pulicada com uma Licença CC BYNCND 40 Creative Commons AtribuiçãoNãoComercialSemDerivações 40 Internacional Na Era da Hiperconectividade Vida na Era da Hiperconectividade Escrita por Clarisse Sieckenius de Souza Abril de 2021 Resumo Este documento apresenta uma resenha de partes selecionadas do livro Floridi L 2015 The Onlife Manifesto Being Human in a Hyperconnected Era Cham Springer Open doi 1010079783319040936 A resenha foi escrita tendo em vista o contexto da disciplina INF2034 Tópicos em Teoria da Computação II Filosofia Computação Ética e Tecnologia Uma Aproximação Interdisciplinar A disciplina é parte da programação da pósgraduação do Departamento de Informática da PUCRio tendo por responsáveis os professores Edgar Lyra Netto Departamento de Filosofia PUCRio e a autora desta resenha Clarisse de Souza Departamento de Informática PUCRio PalavrasChave da Autora da Resenha Vida Hiperconectada Hiperhistória Responsabi lidade Epistêmica Proteção By Design de Souza C S 2021 p 1 Na Era da Hiperconectividade 1 Introdução Esta resenha cobre dois capítulos introdutórios e três outros capítulos selecionados do livro The Onlife Manifesto Being Human in a Hyperfconneted Era Floridi 2015a Ele compila e reporta as ideias resultantes de um workshop promovido em 2013 pela Comissão para Redes de Comunicação Conteúdos e Tecnologia da União Europeia com o objetivo de discutir os desafios associados ao papel da Tecnologias de Informação e Comunicação TICs na vida dos cidadãos O grupo de 15 pesquisadores reunidos já vinha trabalhando há alguns anos no projeto The Onlife Initiative1 cujo tema é uma reengenharia de conceitos para repensar questões da sociedade na transição digital É interessante desde já destacar dois aspectos desta temática O primeiro é a proposta de fazer uma reengenharia de conceitos A engenharia fazfabrica artefatos e vemos então aí a ideia de fazerfabricar conceitos o que é uma associação verboobjeto um tanto peculiar O segundo aspecto a destacar é a caracterização do período de interesse como o de uma transição digital isto é uma perspectiva anterior ao que seria a de uma era digital O próprio título do livro se refere a uma era da hiperconectividade A expressão onlife é um trocadilho a partir da palavra online e segundo informado no livro foi criada por Floridi para se referir à vida online life online conectada donde onlife 2 A Essência do Manifesto A ideia central que se repete em várias partes do livro é a de que as TICs não são me ras ferramentas que podemos manejar mas verdadeiras forças ambientais que vêm afetando cada vez mais quatro dimensões centrais de nossas vidas 1 nossa concepção de quem somos 2 nossas interações com outras pessoas 3 nossa concepção de realidade e 4 nossa interação com a realidade O grupo identificou que os impactos das TICs enumerados acima se devem às seguintes transformações a o apagamento da fronteira entre realidade e virtualidade b o apagamento da fronteira entre ser humano máquina e natureza c a inversão de uma situação de carência de informação para outra de abundância de infor mação e d o deslocamento da primazia de coisas em si isoladas propriedades e relações binárias para a primazia de interações processos e redes Diante deste quadro o grupo diagnostica um desafio para a filosofia no sentido de que os conceitos que vigoraram até pouco tempo na orientação de nossa visão sobre nós mesmos e a 1Veja website atual em digitalstrategyeceuropaeuen de Souza C S 2021 p 2 Na Era da Hiperconectividade realidade que nos cerca não são mais adequados para tratar das aceleradas transformações por que vimos passando devido à penetração das TICs na nossa realidade psíquica social política cultural ambiental científica etc Ou seja estamos mal posicionados para nos entender a nós mesmos e ao mundo à nossa volta se continuamos utilizando conceitos do passado O problema é então que conceitos usar Como já mencionado a proposta do manifesto é contribuir para uma reengenharia do qua dro conceitual que nos guia O termo às vezes é substituído por expressões mais atenuadas como atualização ou revisão denotando talvez uma hesitação sobre as condições e consequências de se promover uma reengenharia de conceitos É inevitável perguntar quem poderia se candidatar a ser engenheiro desta obra Nas palavras do editor do documento o manifesto é uma tentativa de contribuição construtiva para se repensar a filosofia que embasa as políticas públicas de um mundo hiperconectado para melhor compreender os problemas que hoje há e encontrar soluções mais satisfatórias Para tanto o traço fundamentalmente interdisciplinar do grupo foi um requi sito fundamental para o que caracterizaram como um exercício intelectual coletivo As áreas de origem dos participantes incluíam antropologia ciência cognitiva ciência da computação ciência política direito engenharia filosofia neurociência psicologia e sociologia 3 Facetas da Questão São exploradas quatro facetas da questão A primeira diz respeito ao fim da modernidade Embora algumas áreas de conhecimento já tenham acusado há tempo o final do ciclo da moder nidade caracterizado pelo ímpeto de quebrar os enigmas da natureza e de explorála como um recurso passivo a nosso dispor outras setores permaneceram firmemente instalados nesta visão de mundo que preconiza uma divisão entre natureza e tecnologias natural e artefato As TICs porém têm contribuído para borrar com rapidez e intensidade esta divisão A segunda faceta explorada diz respeito aos medos e riscos associados à hiperconec tividade um tema abundantemente tratado hoje em dia e já abordado mais de uma vez em nossa disciplina A terceira referese à exploração de relações entre duplas de conceitos ao invés de dicotomias Dicotomias favorecem divisões e posicionamentos autoexcludentes Já uma perspectiva que examina relações entre duplas de conceitos antagônicos revela dualidades que tão frequentemente coexistem nos efeitos que as TICs têm causado para a nossa existência A quarta e última faceta tem a ver com formas concretas de melhor atender a elaboração de políticas e formas de governança Elas se organizam em torno de três eixos O self relacional Uma sociedade com letramento digital e O cuidado de nossas capacidades de atenção2 O restante desta resenha aborda os pontos mais interessantes destas facetas para as discussões específicas de nossa disciplina sobre ética filosofia tecnologia e computação 2Ênfase minha de Souza C S 2021 p 3 Na Era da Hiperconectividade 4 Capítulos Selecionados A seguir apresento e comento brevemente os capítulos que selecionei do livro O primeiro escrito pelo próprio Luciano Floridi trata de aspectos filosóficos da hiperconectividade e de uma nova concepção de estado O segundo escrito por Judith Simon trata da interessante questão da responsabilidade epistêmica na era da hiperconectividade Finalmente o terceiro escrito por Mireille Hildebrandt levanta a questão da proteção legal by design por projeto muito debatida em relação à regulamentação europeia para a proteção de dados pessoais Os demais capítulos do livro são todos interessantes e dignos de leitura mas não serão abordados para mantermos um foco coeso ligado à disciplina de INF2034 41 Aspectos Filosóficos da Hiperconectividade Luciano Floridi Floridi inicia o capítulo sugerindo que assim como o surgimento de uma TIC como a escrita é um divisor entre a préhistória e a história o estado atual das TICs pode bem ser o divisor entre a história e a hiperhistória E as sociedades que já vivem a realidade da hiperhistória dependendo das TICs para se manterem vivas e sustentáveis assim como vivem pelo digital podem morrer pelo digital Floridi and Taddeo 2014 No plano das TICs a diferença as históricas e hiper históricas é que aquelas servem para registrar e transmitir informação ao passo que estas além disto servem também para processar informação3 Voltado para a hiperhistória o autor afirma a necessidade de se repensar a filosofia que vai endereçar as transformações que o manifesto apontou ver p 2 Primeiro para endereçar o apagamento da fronteira entre o real e o virtual precisamos de uma nova filosofia da natureza que Floridi em obras anteriores Floridi 2002 chamou de filosofia da infosfera Em seguida para tratar da interpenetração do que é humano maquínico e natural a proposta é uma nova antropologia na esteira de uma quarta revolução após a de Copérnico a de Darwin e a de Freud O ser humano nesta nova antropologia seria um ente informacional vivo capaz de interagir com outros entes informacionais Segue dos pontos anteriores a necessidade de uma nova ética para um ambiente informacional complexo uma ética capaz de abranger toda a infosfera Finalmente para tratar da primazia das interações processos e redes da infosfera abrese o espaço para uma nova filosofia da política que justamente é o campo mais carente dos quatro no diagnóstico do autor Notese que estamos aqui e desde já diante de um desafio interdisciplinar de grande magnitude A suposta reengenharia de conceitos que se deve alcançar abala fundamentos em praticamente todo o espectro de conhecimentos atual Mirando o objetivo do Manifesto e da Iniciativa que é o de informar e apoiar políticas públicas adequadas para uma nova etapa hiperhistórica Floridi ressalta que as TICs mexeram nas estruturas de poder no espaço e nas formas de organização do Estado moderno Do ponto de vista do poder as múltiplas e multiplicáveis fontes de dados e pontos de processamento da informação democratizaram o poder ao ponto de que os estados são apenas mais um e nem necessariamente o mais poderoso elemento entre os agentes da infosfera O espaço territorial por sua vez até aqui tão intrinsecamente concebido como a expansão de terra que contém os recursos e riquezas do estado agora se distribui ou redefine à medida em que os bens informacionais de um estado podem estar localizados fora de seu território Finalmente do ponto de vista de 3De fato talvez subentendido como parte deste processamento está o processo autônomo agentividade de coleta registro e transmissão de dados Mas Floridi não levanta este ponto ao traçar a diferença de Souza C S 2021 p 4 Na Era da Hiperconectividade organização na opinião de Floridi as TICs fluidificam as fronteiras do poder e da política através das facilidades e da rapidez de agregação desagregação e reagregação com que grupos sociais hoje podem contar para sua atuação na rede Vários estados têm tentado resistir a esta situação através de mecanismos de centralização e estatização de agentes críticos da infosfera Floridi antevia em 2014 o advento de sistemas mul tiagentes MAS para atuação política o que em 2021 já se concretiza segundo documentários livros reportagens artigos palestras que vêm ocupando bom espaço nas mídias de informação entretenimento discussão acadêmica e outras Resta saber então qual a natureza e os proble mas dos MAS políticos A partir deste ponto todo o capítulo gira em torno de MAS políticos que é a contribuição que Floridi pretende dar para repensar e reorganizar o quadro conceitual de política a partir do qual o Estado executa seus deveres e funções para garantir a segurança e o bem estar da sociedade Floridi caracteriza um MAS político com as seguintes propriedades é teleológico tem pro pósito objetivo que ele persegue através de suas ações é interativo influencia e é influenciado pelo ambiente onde está é autônomo pode mudar seu estado sozinho sem que isto resulte de alguma ação de comando externo sobre ele e finalmente se adapta as suas interações com o ambiente podem resultar na alteração das suas próprias regras de comportamento Ou seja um MAS político é na visão de Floridi um agente inteligente mas não necessariamente humano e disto decorrem questões de grande relevância A primeira que ele aborda diz respeito a Identidade e Coesão Ao longo da história a identidade do estado se manteve através da equação estadonação trabalhando os conceitos de espaço a terra mãe e tempo as tradições compartilhadas a celebração do passado comum Porém os MAS políticos não operam sobre tempo e espaço tão bem definidos O princípio operante destes agentes é o compartilhamento de informação O que reforça a sua natureza política é a fronteira tão permeável entre a realidade virtual e a física a ponto de aquela afetar fortemente a esta Temos assim o caso de agentes políticos que já não se constituem da forma como agentes políticos históricos se constituíam até aqui e que também atuam de maneira mais rápida e incidental do que os que conhecíamos Os novos agente seguem as correntes momentâneas de compartilhamento de informação que se instanciam na rede Acontece então que uma ontologia de interações troca de informação suplanta uma ontologia de coisas4 A segunda questão trata de consentimento nos contextos histórico e hiperhistórico Ela é formulada por Floridi como a passagem de uma condição histórica de optout todo cidadão por definição adere às leis do Estado que lhe dá cidadania vive dentro da lei restandolhe as penalidades cabíveis para o caso de decidir agir fora da lei para a condição hiperhistórica que se impõe cada vez mais intensamente de optin uma pessoa por definição é neutra em relação ao propósito de MAS políticos e são mobilizações sociais diversas que a levam a aderir Esta reversão do quadro de garantias tradicionais de constituição e processos políticos através de partidos câmaras legislativas representantes com mandatos definidos processos eleitorais e política partidária para outro em que a fluidez dos MAS políticos diminui e em alguns casos esvazia a tradição histórica através da ação hiperhistórica terá enormes implicações sociais 4Floridi deixa esta formulação no ar referindose a publicação anterior sua Floridi 2007 para mais detalhes No artigo em referência o prognóstico de Floridi é o de que com o desaparecimento da fronteira entre o online e o offline não nos tornaremos cyborgs mas inforgs um tipo de ente informacional que se relacionará com diversos outros tipos de entes naturais ou não Isto implicará uma reontologização da realidade a que ele se refere no livro aqui resenhado como a substituição de uma ontologia das coisas por uma ontologia das interações de Souza C S 2021 p 5 Na Era da Hiperconectividade Novamente traçando o contraste entre o histórico e o hiperhistórico a terceira questão trata da relação entre espaço político e social e se caracteriza por nova inversão Floridi aponta para que o Estado moderno busca tradicionalmente ocupar todo o espaço social com a sua política Através dela o Estado estrutura e regula a vida social Já na era hiperhistórica a política emerge da ação social lembremos que o consentimento ganha importância porque o valor default da participação social é neutro o cidadão tem de optar por aderir opt in No entanto o que ele chama de graus de liberdade de qualquer agente é regulado pelas necessidades de gerenciar a convergência e divergência de uns com outros O espaço social é então definido pela totalidade dos graus de liberdade dos agentes que se quer levar em conta Floridi 2015 p 60 A questão é que enquanto no enquadre histórico a convivência espacial dos agentes em um mesmo território oferecia um critério sólido para estabelecer quais agentes se quer levar em conta no enquadre hiperhistórico a possibilidade senão o princípio de adesão por escolha implícita ou decisão explícita resulta no fenômeno de distribuição espalhamento o qual afeta a moralidade e a responsabilidade dos cidadãos5 A quarta questão trata finalmente da legitimidade do espaço político na era da hiper história Ela é alcançada quando os agentes concordam com estar de acordo a respeito de como vão lidar com suas divergências e convergências Não se trata apenas de política numa perspec tiva de resolução de conflitos mas também no sentido da colaboração o que naturalmente amplia as possibilidades individuais isoladas de cada agente Assim o espaço político se redefine como o segmento do espaço social regulado por este agreement to agree quanto a formas mutuamente pactuadas de resolução de divergências e coordenação de convergências Nos parágrafos finais de seu capítulo Floridi delineia o que é e o que poderia idealmente ser o estado transparente que as TICs fomentam hoje em dia Por um lado o estado transparente no sentido de que se deixa ver eg de onde vêm seus recursos e para onde vão quando etc tornase ainda mais transparente à medida em que o cidadão comum tem mais e mais acesso à informação sobre gestão pública seja pelos canais oficiais a mídia jornalística as organizações nãogovernamentais ou outros agentes todos com presença ostensiva na rede Por outro lado o estado pode ser transparente no sentido em que a informática emprega o termo ie o que não se enxerga tal como se usa em expressões do tipo os detalhes técnicos do funcionamento do sistema são transparentes para o usuário Neste ponto Floridi desenha um cenário muito otimista onde o estado poderia funcionar transparentemente para os cidadãos como um con junto de agentes políticos necessários para que uma sociedade ela sim totalmente visível e em primeiro plano realize os seus objetivos Para o autor este segundo sentido de transparência é mais importante e inovador para a hiperhistória do que o primeiro O autor conclui que pode remos levar muito tempo para entender a extensão e a profundidade destas transformações por que já estamos passando porém não temos como adiar mais a tarefa de começar a analisálas 5Floridi discute o conceito de moralidade distribuída em outro trabalho Floridi 2013 cujo ponto central é o conceito de infraética por ele proposto Tratase do conjunto de instrumentadores morais moral enablers em inglês que embora sejam eles mesmos moralmente neutros podem favorecer significativamente comportamentos morais tanto positivos quanto negativos de Souza C S 2021 p 6 Na Era da Hiperconectividade 42 Responsabilidade Epistêmica Judith Simon Simon inicia seu capítulo falando dos medos que temos hoje em relação a questões de tecnolo gia Por exemplo quem é responsável se roubarem nossos dados ou se de acordo com um algoritmo qualquer um míssil atingir uma escola infantil ou se alguém for erroneamente identi ficado como terrorista e preso ao desembarcar em país estrangeiro A resposta é provavelmente a mesma que para perguntas em ponto muito menor e menos dramático quem é responsável se a nossa conexão de Internet falhar ou se o aplicativo que usamos para pedir refeição em um restaurante não comunicar o pedido ao restaurante Os exemplos da autora não são exatamente estes em alguns casos mas são equivalentes Foram substituídos para aludir a situações mais próximas dos debates que vimos tendo na disciplina de INF2034 As perguntas centrais de interesse para Simon são duas 1 como podemos ou devemos assumir responsabilidade pelo que fazemos na rede e 2 como atribuir responsabilidade a outros Ainda mais especificamente de todas as perspectivas possíveis com que podemos examinar a questão da responsabilidade a autora se interessa por responsabilidade epistêmica ou seja responsabilidade de saber Normalmente quando pensamos em responsabilidade vêm logo à tona duas perspectivas possíveis a individual que no caso diz respeito ao que significa alguém ser responsável por saber e a de projeto e governança que no caso trata do que é necessário e oferecido para que a responsabiliade de saber seja viável Olhando por estas duas perspectivas que certamente têm relações recíprocas Simon pretende afrouxar certos nós que aparecem quando se tenta analisar uma situação da qual se faz parte Afinal ao discutirmos responsabilidade epistêmica estamos discutindo sobre nossa responsabilidade no próprio ato de assumirmos que estamos em posição de discutir isso O conhecimento tem e sempre teve uma grande componente social Dependemos da comu nicação para saber e para permitir a outros que saibam No entanto com a rede a malha sociotécnica de produção e consumo de conhecimento está muito mais densa e extensa tanto no que diz respeito a conhecimento técnicocientífico quanto conhecimento geral prático mun dano informativo Quem são os atores na cadeia de produção e que tipo de responsabilidade efetivamente assumem para dar sustentação e validade ao produto de conhecimento que a cadeia comunica Dentre tais atores voltando às perspectivas mencionadas acima Simon se interessa por aqueles que estão ligados a políticas públicas na era da hiperconectividade ou seja aque les diretamente envolvidos com o projeto e a governança de tais redes A partir daí a autora toma como exemplo a estratégia RRI Responsible Research and Innovation6 da União Europeia7 Ela observa que examinando o documento a maior parte das diretrizes que orientam a estratégia RRI são de fato pertinentes a ética profissional e ética de negócios A seu ver foram negligenciados aspectos importantes das práticas epistêmicas da pesquisa e inovação Além disto além de brilhar no título da iniciativa os termos responsável ou responsabilidade no geral são pouco vistos no documento A este respeito é muito interessante verificar que em abril de 2021 quando esta resenha está sendo escrita a iniciativa passou a chamarse apenas Research and Innovation tendo absorvido ou abandonado o termo Responsible de que a autora fala veja se a versão atual da página Simon já ressaltava que o resumo executivo do RRI não continha 6Pesquisa e Inovação Responsáveis 7Livre acesso ao documento em httpsopeuropaeuenpublicationdetailpublication 2be36f74b490409ebb6012fd438100fe de Souza C S 2021 p 7 Na Era da Hiperconectividade responsável no título e no corpo do texto mencionava o termo em apenas duas ocasiões Em sua opinião o problema é que não se sabia então e provavelmente não se sabe ainda a julgar pelo estado atual da documentação em 2021 no que consiste tal responsabilidade Ela passa então a examinar mais de perto a questão da responsabilidade de um agente enquanto agente epistêmico O que é isto Para começar alega Simon é preciso admitir que práticas epistêmicas são inerentemente éticas Porém os desafios impostos pela era da hiperconectividade não são pequenos A questão da responsabilidade epistêmica já foi abordada em alguns campos específicos de pesquisa tais como por exemplo na epistemologia social na filosofia da computação e trato da moralidade distribuída e no emaranhado de moralidades na esfera de teorias de gênero Uma boa parte destes trabalhos endereça a questão da condição epistêmica válida responsável de testemunhos utilizados na produção de conhecimento Um caso clássico é o da coleta e uso de evidências junto a informantes de uma cultura ou comunidade investigada A atribuição de autoridade às fontes é um problema de responsabilidade importante para qualquer pesquisador Outro caso é a própria seleção de publicações como referência que publicações têm peso para sustentar a construção de conhecimento São questões de ética epistêmica que se complicam quando parte cada vez menos desprezível dos testemunhos utilizados em pesquisa são produzidos por agentes nãohumanos agentes artificiais software Um ponto ainda mais profundo e sutil da questão tem a ver com a diferença entre os con ceitos de accountability e responsibility que para falantes do português são tanto mais difíceis na medida em que em diversos contextos o termo inglês accountable se traduz em português como responsável Como um exercício linguístico em busca de um termo provisório para fins desta resenha vou usar a palavra comprometimento como tradução de accountability Na era da hiperconectividade em que agentes humanos e artificiais participam ativamente da cadeia de produção de conhecimento precisamos de um critério para saber quando ou se devemos atribuir responsabilidade a agentes de software específicamente Muitos autores já se debruçaram sobre o tema eg Nissenbaum 1996 Coleman 2011 Noorman 2020 Coeckelbergh 2020 entre outros e Simon escolhe trabalhos de Floridi 2004 2013 para traçar distinções Floridi and San ders 2004 distinguem agentes artificiais de humanos pelo traço de intencionalidade Segundo os autores um agente artificial é caracterizado por ter interatividade autonomia e adaptabilidade ao passo que os agentes humanos têm tudo isso e mais intencionalidade ie capacidade de intenção Assim segue Simon enquanto podemos dizer que agentes humanos e artificiais po dem estar comprometidos com atividades epistêmicas ou não apenas agentes humanos podem ser responsáveis e responsabilizados por seus efeitos ou condições Responsabilidade presume intencionalidade A responsabilidade especificamente epistêmica porém tem outros aspectos além da intenci onalidade Um deles para Simon é o que foi estudado por teorias que apareceram em estudos de gênero a questão do poder de saber A autora invoca vários trabalhos de Karen Barad8 e um livro clássico de Lucy Suchman 2006 cuja primeira edição em 1987 causou acalorado debate no campo da ciência cognitiva e inteligência artificial Suchman é até hoje uma antropóloga de grande influência nas fronteiras da computação eg Suchman 2019 Barad segue a linha de desconstrução do dualismo sujeitoobjeto inaugurado por Nils Bohr e adota a posição de que a 8Os interessados podem consultar o perfil acadêmico de Barad em httpsscholargooglecomcitations hlptBRuserljLL7AQAAAAJ que aponta para publicações acessíveis através de bibliotecas digitais a nosso alcance de Souza C S 2021 p 8 Na Era da Hiperconectividade agência da observação se constitui pelo próprio processo de observação não podendo ser esta belecida a priori ie não está sempre do lado de um presumido sujeito cognoscente Mais ainda Barad defende que a realidade em si não é algo que exista independentemente ela se constitui através de práticas epistêmicas em que observadores observados métodos instrumen tos recursos situação finalidades estão todos emaranhados uns com os outros Neste sentido a própria palavra interação é problemática porque o prefixo inter estabelece automaticamente dois polos Vai daí que Barad adota um neologismo próprio e fala de intraação em processos epistêmicos Finalmente ao contrário de outras teorias usadas em estudos de gênero ao invés de enfatizar o discurso as palavras a fala Barad desloca seu foco para a materialidade o que abre imediatamente a porta para a agência de entes nãohumanos artefatos tais como inteli gências artificiais robôs além de outros que nada têm de computacionais O fato de estarmos imbricados com toda materialidade com que temos contato nos torna automaticamente compro metidos e responsáveis por ela defende Barad na medida em que não é possível traçar linhas claras de separação a priori entre nós e ela Somos esta realidade e conhecemos esta realidade ao simplesmente viver Vemos portanto uma posição bastante distinta da de Floridi e Sanders 2004 por exemplo Suchman concorda com Barad no que diz respeito à inseparabilidade entre nós e a matéria à nossa volta em particular os artefatos Ela porém segue por algumas con sequências específicas desta perspectiva como nos responsabilizarmos pelo que está na mesma malha ontológicoepistêmica que nós Segundo Simon Suchman não vai muito além de advogar uma posição constantemente crítica e engajada sobre o que fazemos Ou seja sua argumentação pela necessidade de uma nova responsabilidade ou ética epistêmica é melhor do que sua solução que mal se formula na opinião de Simon Diante disto Simon prossegue para seu argumento final Primeiro ela sinaliza que embora materialidades muito diversas coexistam na realidade eg agentes humanos e nãohumanos elas não têm igual poder A assimetria entre materialidades pode variar amplamente mas é a regra mais do que a exceção Segundo ela sublinha a diferença entre ser responsável e assumir responsabilidade além da diferença entre responsabilizarse e responsabilizar As nuances destas diferenças apontam para estratagemas conhecidos e usados desde tempos imemoriais para fugir da responsabilidade Entender estas nuances diferenças e estratagemas é um passo fundamental para compreender o que significa ser epistemicamente responsável por algo diz ela Ilustrando seu ponto Simon defende que antes de discutir como agentes humanos ou nãohumanos po dem ser responsáveis ou responsabilizados pelo que acontece é preciso fazer duas perguntas a responsabilidade epistêmica pode ser assumida por agentes nãohumanos também e b responsabilidade epistêmica pode ser atribuída a agentes nãohumanos também Tomando as distinções de Floridi e Sanders 2004 a autora retoma o ponto da intencionalidade e argu menta que a atribuição de responsabilidade é um ato intencional e portanto reservado a agentes humanos Isto já encaminha a resposta para b A resposta para a segue uma linha talvez intuitiva de que responsabilizarnos ie responsabilizar a nós mesmos ou assumir responsabili dade é uma atitude ou ato intencional Por que responsabilizar um outro não o seria O conceito pivotal de intencionalidade nesta linha de pensamento exime agentes artificiais não apenas de responsavilidade epistêmica embora não de comprometimento como também de capacidade de responsabilizarse ou a outros Em outras palavras a esfera da responsabilidade epistê mica é habitada por agentes humanos Isto lança uma luz clara e intensa sobre o que significa usar tecnologias de conhecimento que classificamos como black boxes É ético É moralmente aceitável Outro aspecto interessante do argumento de Simon sobre responsabilidade epistêmica é o de Souza C S 2021 p 9 Na Era da Hiperconectividade alcance que ele tem quando repentinamente retoma o elo aparentemente perdido com a iniciativa RRI da comunidade europeia Um trecho digno de citação nos alerta para um ponto crítico da política científica que se pratica no Brasil e na maior parte dos países que participam da comunidade científica internacional O acesso a vários tipos de evidência a informação que sustenta ou contradiz o que se afirma ou acredita é essencial para a responsabilidade epistêmica no processo de saber É neste sentido que o apoio a publicações com livre acesso open access é um aspecto muito importante e válido da Iniciativa pela Pesquisa Responsável Em termos mais gerais significa que nossos esforços individuais devem ser complemen tados por políticas apropriadas que dêem sustentação a ambientes em que assumir responsabilidade epistêmica é algo possível estimulado e recompensado O capítulo se conclui com uma chamada para a importância de se pensar políticas públicas que viabilizem a atuação epistemicamente responsável nos dias de hoje Isto requer uma análise ao mesmo tempo abrangente profunda e corajosa de nossas condições epistêmicas hoje em dia Por exemplo forças que agem em direção contrária tal como é o caso das tecnologias de profiling que não nos permitem saber que porção de informação existente está chegando a nós nem por que critérios a seleção desta porção foi feita por agentes artificiais são um impedimento a ser combatido e vencido Não é aceitável que agentes claramente comprometidos com o controle de nosso acesso a informação embora nãoresponsabizáveis não possam ser inquiridos ou entendidos por nós Sem este conhecimento a interdependência fundamental entre facetas epistêmicas ontológicas e éticas da nossa responsabilidade social ficará obscurecida e os avanços de que precisamos para lidar com a era da hiperconectividade entravados Na opinião de Simon em nossa agenda de trabalhos futuros é urgente incluir e começar um esforço de conceituação e fundamentação consistentes de o que é responsabilidade epistêmica e adicionalmente um esforço determinado de criar políticas públicas sintonizadas com esta conceituação para que agentes que têm assumem ou atribuem responsabilidade a si mesmo ou a outros possam fazê lo sem que haja pontos de evasão ou ruptura destes processos na malha sociotécnica em que estamos todos apanhados 43 Proteção Legal by Design Mireille Hildebrandt Este capítulo aborda a questão técnica do digital Hildebrandt observa que grande parte das discussões acerca da hiperconectividade ou da virtualidade da vida hoje é realizada fora das disciplinas técnicas Esta constatação é extremamente importante como contexto para as discus sões acerca do papel da intertransdisciplinaridade genuína em um esforço de entendimento e debate éticos sobre o ser humano e suas relações com a tecnologia O advento de smart devices dispositivos inteligentes que capturam nossos dados e os utili zam para antecipar e influenciar nosso comportamento de diversas formas fez com que as coisas à nossa volta tenham ganhado alguns matizes de subjetividade que no fundo é a agentividade ou agência capacidade de agir autonomamente Um fator a considerar antes de mais nada é que estes agentes artificiais são projetados e construídos para fins específicos eg oferecer produtos para comprarmos apontar formas de gerenciarmos nosso consumo de energia rastrear nosso nível de atividade física diária etc Eles são programados ou ao menos construídos de Souza C S 2021 p 10 Na Era da Hiperconectividade para nos lerem de determinada forma e não de outra A assimetria de poder aludida por Simon em capítulo anterior é no entanto muito grande nós não temos como saber de que for mas estamos sendo lidos e na maioria das vezes também não sabemos onde quando ou por quê Portanto o desbalanço introduzido por questões técnicas para propósitos específicos e estes últimos totalmente passíveis de serem enunciados não pode deixar de ser considerado em uma análise adequada da vida online Hildebrant alega que é imperativo que esta mesma técnica que institui um desequilíbrio que nos expõe a sermos usados como meros recursos cognitivos por agentes artificiais reequilibre nossas forças oferecendo interfaces de acesso para podermos ler o comportamento de algoritmos e antecipar aspectos e consequências de sua atuação Eis aí a raiz da ideia de transparência por design explicabilidade por design equidade por design e outros conceitos assemelhados Este ponto retoma a obrigação de cuidado com nossas capacidades de atenção listado como um dos eixos com que as políticas e governança públicas devem se ocupar v seção 3 Os impactos da vida online vão muito além de questões de privacidade e segurança embora estes tópicos tenham ocupado boa parte das discussões nas áreas limítrofes entre a técnica e a sociedade como a de Interação HumanoComputador Sistemas Ubíquos Cidades Inteligentes eHealth e outras Para Hildebrandt é como se nós próprios assumíssemos a postura intencional de que fala Dennett 19889 A autora entra em uma discussão um pouco mais detalhada sobre ambientes inteligentes smart environments fazendo duas perguntas Será que o surgimento da Web 20 é a antítese do social de Arendt 2016 na medida em que diz respeito a comunicações umparaum um paramuitos e muitosparamuitos ao invés de muitosparaum10 Ou por outra será que o processamento de Big Data nos coloca diante da realização deste social na medida em que ele se constitui por meio de peças e pedaços de código que máquinas podem ler o que viabilizaria a versão última do que Heidegger 2007 chama de das rechnende Denken pensamento que calcula ou calculador11 Usando o pensamento de Arendt Hildebrandt chama a atenção para o fato de que o privado não se opõe ao público dicotomicamente e que a vida privada não é exatamente a glória da liberdade Do ponto de vista de Arendt o impulso pelo progresso e pela abundância empurra o ser humano para a função de peça numa enorme engrenagem de produção em massa para a subsistência e bem estar da sociedade que assim se revela uma estrutura mais econômica do 9Nas palavras do filósofo a postura intencional é a estratégia de previsão e explicação que atribui crenças desejos e outros estados intencionais a sistemas vivos e não vivos Dennett 1988 p 495 10Para elucidar rapidamente do que Hildebrandt está falando quando invoca o social de Arendt reproduzimos um trecho de Aguiar 2004 com inserção entre colchetes para tornálo mais claro Social é então para Arendt a forma de vida que surgiu com a modernidade e na qual resultam privilegiadas a socialização e a funcionalização das atividades humanas uma vez que o imperativo biológico de sobrevivência e abundância ao ser priorizado impõe uma forma de organização dos homens em que eles não passam de meros meios funções para realização do progresso e assim como tais como seres singulares se tornam supérfluos Essa é a razão da animosidade de Arendt para com a categoria do social Isso significa o fim da liberdade para agir começar algo novo fundar comunidades e o cerceamento da dimensão espiritual da capacidade de descondicionamento inerente ao exercício da faculdade de pensar Aguiar Odilio Alves 2004 A questão social em Hannah Arendt TransFormAção 272 720 httpsdoiorg101590S010131732004000200001 11O pensamento calculador para Heidegger é aquele que se volta para um objeto com vistas e fazer previsões e ter controle sobre tal objeto é o pensamento típico das intervenções humanas que visam transformar o curso natural das coisas Ele se opõe ao pensamento que medita o qual se demora e reflete sobre o sentido que reina em tudo o que existe Heidegger M 1959 Serenidade Trad Maria Madalena Andrade Olga Santos Lisboa Instituto Piaget DL 2000 de Souza C S 2021 p 11 Na Era da Hiperconectividade que cultural que se impõe ao indivíduo e no limite reduz a sua liberdade de agir e pensar ou de ser diferente Em direção oposta a esta formulação arendtiana grande parte das discussões atuais sobre privacidade e segurança ignoram totalmente tais imposições da estrutura social sobre a liberdade individual independentemente da tecnologia computacional No entanto seria indispensável para Hildebrandt incluir este vetor de análise ao tratar da vida online A autora revela então sua preocupação muito palpável quanto a como podemos através de nossa ação e conhecimento contribuir para o design a engenharia a construção da onlife que aquele grupo interdisciplinar se reúne para discutir Importa para ela garantir a formação e dissolução de públicos no plural sempre protegendo opacidades dos indivíduos que constituem tais públicos ie sem os expor indevidamente Hildebrant observa a este respeito que a regulamentação europeia de proteção de dados GDPR que entrou em vigor posteriormente ao workshop em 2018 trata de um bom número das questões envolvidas em um projeto desta natureza Ela resume os imperativos do projeto como a construção de uma infraestrutura técnica que ofereça suporte para uma pluralidade de públicos exposição por escolha e não imposição além de esconderijos locais onde as pessoas possam ficar ao abrigo de exposição indesejada A solução proposta envolve uma reconceitualização de frequentemente mal entendida e mal colocada neutralidade tecnológica A tecnologia não é neutra Contudo uma vez que ela venha a fazer parte dos princípios de governança que devem garantir os direitos individuais e proteger os cidadãos da violência de outros cidadãos de instituições ou até mesmo do próprio Estado os projetistas e engenheiros construtores de tecnologia devem envolverse ativamente com pares de outras áreas como juristas cientistas políticos e filósofos por exemplo para elaborar novas Leis relativas à infraestrutura tecnológica É interessante notar que o texto de Hidebrandt precede em alguns anos a regulamentação efetiva de boa parte da infraestrutura tecnológica na Europa Como já apontado a GDPR entrou em vigor em 2018 mesmo ano em que foi sancionada no Brasil a Lei Geral de Proteção de Dados LGPD já em vigor no país As noções de várias propriedades desejáveis by design como privacy by design fairness by design transparency by design e neste capítulo legal by design carregam um pressuposto bastante forte sobre as condições epistêmicas dos projetistas e construtores de tecnologia para saber que características são estas que tornariam um artefato virtuoso by design Apesar de discutível este pressuposto aparece inclusive explicitamente em inúmeros documentos e artigos técnicocientíficos ou filosóficos acerca de ética e responsabilidade moral no que tange à Inteligência Artificial por exemplo 5 Um Comentário Final O Onlife Manifesto reflete primeiramente um momento histórico do pensamento acadêmico euro peu voltado para a tecnologia Uma das marcas mais fortes deste pensamento é a sua perspectiva radicalmente interdisciplinar que culminou em discussões de problemas e desafios bem como formulações de propostas práticas concretas ambas de muito longo alcance Haja vista o número de países que seguiram a iniciativa de regulamentação do uso de dados pessoais coletados de usuários que transitam o tempo todo pela rede A LGPD assim como a legislação de outros países nãoeuropeus guarda muita semelhança com a GDPR Os capítulos selecionados para esta resenha ilustram a amplidão do arco disciplinar envol de Souza C S 2021 p 12 Na Era da Hiperconectividade vido no debate que se iniciou décadas antes de a GDPR passar a vigorar Grande volume de documentação está disponível para consulta aberta no website da Comunidade Europeia Data protection under GDPR Considerando que a realidade social do Brasil é muito diversa da europeia podese esperar que os desdobramentos sócioeconômicoculturais da GDPR no velho continente sejam consideravelmente diversos dos que haverá por aqui Assim vemos uma ne cessidade urgente de se fomentar e aprofundar o debate interdisciplinar sobre questões da vida online na sociedade brasileira A área jurídica esteve presente com a informática e a engenha ria de telecomunicações nos primeiros estudos e análises que culminaram na LGPD Da mesma forma ela se antecipa ao debate contemporâneao acerca da responsabilidade moral e civil de agentes artificiais na rede Frazão and Mulholland 2019 No entanto como mostra o Manifesto resenhado são muitas as outras áreas de conhecimento que têm contribuições fundamentais a fazer Na disciplina de INF2034 invocaremos em particular aquelas que têm algo a dizer sobre o que Judith Simon tratou a responsabilidade epistêmica Pretendemos abordar alguns aspectos críticos nas condições de produção de conhecimento na atualidade tanto no que diz respeito aos regimes de comunicação e colaboração interdisciplinar per se Frodeman 2017 quanto no que diz respeito à influência da própria tecnologia nos meios e modos de conhecimento cultural técnico científico e mesmo metacientífico Meyer and Schroeder 2015 Finalmente a grande questão de fundo de todo o Manifesto é o intento de realizar uma reengenharia de conceitos Desde o início apontamos para os riscos subjacentes a esta ideia relativos a quem está em condições de fazer tal reengenharia que condições são estas em que está ou estão e que efeitos para a sociedade podem surgir do fato de um grupo de engenheiros de conceitos interpretar sua função ou missão de uma maneira torta supondo que haja uma maneira correta de isto ser interpretado Há muitas perguntas apontando para os riscos mas elas não deveriam obscurecer a urgência e a necessidade de reconceitualizações O problema é como fazer reconceitualizações tão urgentes de uma forma robusta quanto à solidez dos métodos de elaboração e ética quanto à responsabilidade social desde o processo de reconceitualização até o acompanhamento de seus efeitos e a prontidão para corrigir ou combater descaminhos nãoantecipados Chegamos então ao impasse eterno da ciência e da evolução do conhecimento o que é científico não é uma verdade definitiva é apenas aquilo que reflete cristalinamente o ápice do que se sabe até então e mais importante ainda o que ainda não se sabe e é preciso saber Decisões práticas e urgentes no mundo como a pandemia da COVID19 revelou agudamente têm de ser tomadas com base em algum conhecimento O melhor dos conhecimentos disponíveis embora nunca definitivo e imune a contestações e refutações é o científico Mas grande parte da sociedade confunde conhecimento científico com verdade absoluta Toma o processo normal de questionamento e refutação que garante o processo científico como evidência de fracasso sem perceber que ao descreditar o melhor tipo de conhecimento que temos finitos que somos como seres humanos destroi a última cancela que nos protege do charlatanismo e de todo tipo de barbárie que ele justifica Acredito portanto que este Manifesto invoca mais reflexão e outros tantos manifestos em escalas mais globais ou mais locais conforme o caso por uma atitude impecavelmente ética dos cientistas tanto na atividade cotidiana de pesquisar e avançar o conhecimento quanto na atividade social de informação e formação no sentido de educação da sociedade quanto ao que é e não pode deixar de ser o conhecimento científico de Souza C S 2021 p 13 Na Era da Hiperconectividade Referências Arendt H 2016 A condição humana Editora Forense Universitária São Paulo 13a edition Coeckelbergh M 2020 Artificial intelligence responsibility attribution and a relational justification of explainability Science and Engineering Ethics 26420512068 Coleman K G 2011 Computing and moral responsibility In Zalta E N editor The Stanford Encyclopedia of Philosophy Metaphysics Research Lab Stanford University Stanford Ca Summer 2011 edition Dennett D C 1988 Précis of the intentional stance Behavioral and Brain Sciences 113495505 Floridi L 2002 What is the philosophy of information Metaphilosophy 3312123145 Floridi L 2007 A look into the future impact of ICT on our lives The Information Society 2315964 Floridi L 2013 Distributed morality in an information society Science and Engineering Ethics 193727743 Floridi L editor 2015 The Onlife Manifesto Being Human in a Hyperconnected Era Springer Open Cham Floridi L and Sanders J W 2004 On the morality of artificial agents Minds and Machines 143349379 Floridi L and Taddeo M 2014 The Ethics of Information Warfare Springer Cham Frazão A and Mulholland C 2019 Inteligência Artificial e Direito Ética Regulação e Responsabi lidade Thomson Reuters Brasil Conteúdo e Tecnologia Ltda São Paulo Frodeman R 2017 The future of interdisciplinarity An introduction to the 2nd edition In Frodeman R Klein J T and dos Santos Pacheco R C editors The Oxford Handbook of Interdisciplinarity pages 38 Oxford University Press Oxford Heidegger M 2007 A questão da técnica trad Marco Aurélio Werle Scientiae Studia 5375 398 Meyer E T and Schroeder R 2015 Knowledge machines digital transformations of the sciences and humanities Infrastructures series The MIT Press Cambridge Massachusetts Nissenbaum H 1996 Accountability in a computerized society Science and Engineering Ethics 212542 Noorman M 2020 Computing and moral responsibility In Zalta E N editor The Stanford Ency clopedia of Philosophy Metaphysics Research Lab Stanford University Stanford Ca Spring 2020 edition Suchman L A 2006 HumanMachine Reconfigurations Plans and Situated Actions 2nd ed Cam bridge Univ Press Cambridge Suchman L A 2019 Agencies in technology design Feminist reconfigurations In Scholz J Völker S and Tuider E editors Aktuelle Herausforderungen der Geschlechterforschung Beiträge zur ersten gemeinsamen internationalen Konferenz der Fachgesellschaften für Geschlechterforschung studien aus Deutschland Österreich und der Schweiz pages 7289 FG Geschlechter Studien Köln Notas a O livro The Onlife Manifesto Being Human in a Hyperconnected Era foi publicado em regime de acesso aberto e pode ser baixado do website da editora no endereço linkspringercombook1010079783319 040936 de Souza C S 2021 p 14