{"id":9500,"date":"2025-06-09T12:10:33","date_gmt":"2025-06-09T15:10:33","guid":{"rendered":"https:\/\/fenati.org.br\/?p=9500"},"modified":"2025-06-09T17:42:36","modified_gmt":"2025-06-09T20:42:36","slug":"opiniao-mais-possa-parecer-ia-nao-tem-consciencia","status":"publish","type":"post","link":"https:\/\/homolog.fenati.org.br\/en\/opiniao-mais-possa-parecer-ia-nao-tem-consciencia\/","title":{"rendered":"Opini\u00e3o: Por mais que possa parecer, IA n\u00e3o tem consci\u00eancia"},"content":{"rendered":"

Opini\u00e3o –<\/strong> Enquanto o sol se punha sobre a Ilha Maury, ao sul de Seattle, no noroeste dos Estados Unidos, Ben Goertzel e sua banda de jazz-fusion tiveram um daqueles momentos que todas as bandas desejam: teclado, guitarra, saxofone e vocalista soando como se fossem um.<\/p>\n

Goertzel estava no teclado. Os amigos e familiares da banda ouviam em um p\u00e1tio com vista para a praia. E Desdemona, usando peruca roxa e um vestido preto com tachas met\u00e1licas, estava nos vocais, alertando sobre a chegada da Singularidade \u2013o ponto de inflex\u00e3o onde a tecnologia n\u00e3o poder\u00e1 mais ser controlada por seus criadores.<\/p>\n

LEIA: STF garante o direito \u00e0 greve ao anular multa abusiva de 1 milh\u00e3o<\/strong><\/a><\/p>\n

“A Singularidade n\u00e3o ser\u00e1 centralizada!”, ela gritou. “Vai se irradiar pelo cosmo como uma vespa!”<\/p>\n

Depois de mais de 25 anos como pesquisador de intelig\u00eancia artificial (IA<\/a>) \u2013um quarto de s\u00e9culo em busca de uma m\u00e1quina capaz de pensar como um ser humano\u2013, Goertzel sabia que finalmente havia alcan\u00e7ado o objetivo final: Desdemona, uma m\u00e1quina que ele construiu, era senciente.<\/p>\n

Mas alguns minutos depois ele percebeu que isso era um absurdo.<\/p>\n

“Quando a banda se firmou, o rob\u00f4 parecia fazer parte da nossa intelig\u00eancia coletiva \u2013que estivesse sentindo o que n\u00f3s sent\u00edamos e faz\u00edamos”, disse ele. “Ent\u00e3o eu parei de brincar e pensei no que realmente aconteceu.”<\/p>\n

O que aconteceu foi que Desdemona, por meio de algum tipo de magia de fus\u00e3o da tecnologia com o jazz, o atingiu com uma imita\u00e7\u00e3o razo\u00e1vel de suas pr\u00f3prias palavras no momento certo.<\/p>\n

Goertzel \u00e9 presidente-executivo e principal cientista de uma organiza\u00e7\u00e3o chamada SingularityNET. Ele construiu Desdemona para, basicamente, imitar a linguagem dos livros que ele escreveu sobre o futuro da intelig\u00eancia artificial.<\/p>\n

Muitas pessoas no campo de Goertzel n\u00e3o s\u00e3o t\u00e3o boas em distinguir o que \u00e9 real do que elas gostariam que fosse real.<\/p>\n

O exemplo recente mais famoso \u00e9 um engenheiro chamado Blake Lemoine. Ele trabalhou em intelig\u00eancia artificial no Google, especificamente em software que gera palavras por conta pr\u00f3pria \u2013o que \u00e9 chamado de grande modelo de linguagem (LLM na sigla em ingl\u00eas). Ele concluiu que a tecnologia era senciente; seus chefes conclu\u00edram que n\u00e3o. Ele divulgou suas convic\u00e7\u00f5es numa entrevista ao Washington Post, dizendo: “Conhe\u00e7o uma pessoa quando falo com ela. N\u00e3o importa se ela tem na cabe\u00e7a um c\u00e9rebro feito de carne. Ou se ela tem um bilh\u00e3o de linhas de c\u00f3digo”.<\/p>\n

A entrevista causou um enorme rebuli\u00e7o em todo o mundo dos pesquisadores de intelig\u00eancia artificial, que venho cobrindo h\u00e1 mais de uma d\u00e9cada, e entre pessoas que normalmente n\u00e3o seguem os avan\u00e7os do grande modelo de linguagem. Uma velha amiga da minha m\u00e3e lhe enviou um email perguntando se eu achava que a tecnologia era senciente.<\/p>\n

Quando ela foi assegurada de que n\u00e3o era, sua resposta foi r\u00e1pida. “Isso \u00e9 consolador”, disse. O Google acabou demitindo Lemoine.<\/p>\n

Para pessoas como a amiga da minha m\u00e3e, a ideia de que a tecnologia atual de certa forma se comporta como o c\u00e9rebro humano \u00e9 uma pista falsa. N\u00e3o h\u00e1 evid\u00eancias de que essa tecnologia seja senciente ou consciente \u2013duas palavras que descrevem a consci\u00eancia do mundo ao redor.<\/p>\n

Isso vale at\u00e9 para a forma mais simples que se pode encontrar em um verme, disse Colin Allen, professor na Universidade de Pittsburgh que explora habilidades cognitivas em animais e m\u00e1quinas. “O di\u00e1logo gerado por grandes modelos de linguagem n\u00e3o fornece evid\u00eancias do tipo de senci\u00eancia que at\u00e9 animais muito primitivos provavelmente possuem”, disse ele.<\/p>\n

Alison Gopnik, professora de psicologia que faz parte do grupo de pesquisa de IA na Universidade da Calif\u00f3rnia em Berkeley, concordou. “As capacidades computacionais da IA atual como os grandes modelos de linguagem n\u00e3o tornam mais prov\u00e1vel que elas sejam sencientes do que as rochas ou outras m\u00e1quinas”, disse ela.<\/p>\n

O problema \u00e9 que as pessoas mais pr\u00f3ximas da tecnologia \u2013as pessoas que a explicam ao p\u00fablico\u2013 vivem com um p\u00e9 no futuro. \u00c0s vezes, veem o que acreditam que vai acontecer tanto quanto o que est\u00e1 acontecendo agora.<\/p>\n

“H\u00e1 muitos caras em nossa ind\u00fastria que lutam para diferenciar a fic\u00e7\u00e3o cient\u00edfica da vida real”, disse Andrew Feldman, presidente-executivo e fundador da Cerebras, empresa que constr\u00f3i enormes chips de computador que podem ajudar a acelerar o progresso da IA.<\/p>\n

Um pesquisador proeminente, Jurgen Schmidhuber, h\u00e1 muito afirma que construiu as primeiras m\u00e1quinas conscientes d\u00e9cadas atr\u00e1s. Em fevereiro, Ilya Sutskever, um dos pesquisadores mais importantes da \u00faltima d\u00e9cada e principal cientista do laborat\u00f3rio de pesquisa OpenAI, em San Francisco, apoiado por US$ 1 bilh\u00e3o (R$ 5,2 bilh\u00f5es) da Microsoft, disse que a tecnologia de hoje pode ser “ligeiramente consciente”. V\u00e1rias semanas depois, Lemoine deu sua grande entrevista.<\/p>\n

Essas declara\u00e7\u00f5es do mundo pequeno, insular e extremamente exc\u00eantrico da pesquisa em intelig\u00eancia artificial podem ser confusas ou at\u00e9 assustadoras para a maioria das pessoas. Livros, filmes e programas de TV de fic\u00e7\u00e3o cient\u00edfica nos treinaram para temer que as m\u00e1quinas um dia se conscientizem de seu entorno e de alguma forma nos prejudiquem.<\/p>\n

\u00c9 verdade que, \u00e0 medida que esses pesquisadores avan\u00e7am, momentos como Desdemona, quando essa tecnologia parece dar sinais de verdadeira intelig\u00eancia, consci\u00eancia ou senci\u00eancia, s\u00e3o cada vez mais comuns. N\u00e3o \u00e9 verdade que em laborat\u00f3rios em todo o Vale do Sil\u00edcio engenheiros constru\u00edram rob\u00f4s capazes de se emocionar, conversar e cantar como um humano. A tecnologia n\u00e3o pode fazer isso.<\/p>\n

Mas tem o poder de enganar as pessoas. A tecnologia pode gerar tu\u00edtes, postagens em blogs e at\u00e9 artigos inteiros e, conforme os pesquisadores avan\u00e7am, est\u00e1 se aperfei\u00e7oando em conversar. Embora muitas vezes cuspa um absurdo total, muitas pessoas \u2013n\u00e3o apenas pesquisadores de IA\u2013 se veem conversando com esse tipo de tecnologia como se fosse humana.<\/p>\n

\u00c0 medida que ela melhora e prolifera, os eticistas alertam que precisaremos de um novo tipo de desconfian\u00e7a para navegar por tudo o que encontrarmos na internet. E eles se perguntam se estamos \u00e0 altura da tarefa.<\/p>\n

Ancestrais de Desdemona<\/strong><\/p>\n

Em 7 de julho de 1958, em um laborat\u00f3rio do governo a v\u00e1rios quarteir\u00f5es da Casa Branca, o psic\u00f3logo Frank Rosenblatt revelou uma tecnologia que ele chamou de Perceptron.<\/p>\n

Ela n\u00e3o fazia muita coisa. Como Rosenblatt demonstrou para os rep\u00f3rteres que visitaram o laborat\u00f3rio, se ele mostrasse \u00e0 m\u00e1quina algumas centenas de cart\u00f5es retangulares, alguns marcados do lado esquerdo e outros do direito, ela conseguia aprender a diferenciar os dois.<\/p>\n

Ele disse que um dia o sistema aprenderia a reconhecer palavras manuscritas, comandos falados e at\u00e9 rostos de pessoas. Na teoria, conseguiria se clonar, explorar planetas distantes e cruzar a linha da computa\u00e7\u00e3o para a consci\u00eancia, disse o cientista aos rep\u00f3rteres.<\/p>\n

Quando Rosenblatt morreu, 13 anos depois, ele n\u00e3o fazia nada disso. Mas era t\u00edpico da pesquisa de IA, campo acad\u00eamico criado na mesma \u00e9poca em que Rosenblatt come\u00e7ou a trabalhar no Perceptron.<\/p>\n

Os pioneiros do campo visavam recriar a intelig\u00eancia humana por qualquer meio tecnol\u00f3gico necess\u00e1rio e estavam confiantes de que n\u00e3o levariam muito tempo. Alguns diziam que uma m\u00e1quina venceria o campe\u00e3o mundial de xadrez e descobriria seu pr\u00f3prio teorema matem\u00e1tico na d\u00e9cada seguinte. Isso tamb\u00e9m n\u00e3o aconteceu.<\/p>\n

A pesquisa produziu algumas tecnologias not\u00e1veis, mas que n\u00e3o chegaram perto de reproduzir a intelig\u00eancia humana. A “intelig\u00eancia artificial” descrevia o que a tecnologia poderia fazer um dia, n\u00e3o o que podia fazer no momento.<\/p>\n

Alguns dos pioneiros eram engenheiros. Outros eram psic\u00f3logos ou neurocientistas. Ningu\u00e9m, incluindo os neurocientistas, entendia como o c\u00e9rebro funcionava. (Os cientistas ainda n\u00e3o entendem.) Mas eles acreditavam que poderiam de alguma forma recri\u00e1-lo. Alguns acreditaram mais que outros.<\/p>\n

Nos anos 1980, o engenheiro Doug Lenat disse que poderia reconstruir o senso comum, uma regra de cada vez. No in\u00edcio dos anos 2000, membros de uma extensa comunidade online \u2013agora chamada de Racionalistas ou Altru\u00edstas Efetivos\u2013 come\u00e7aram a explorar a possibilidade de que a intelig\u00eancia artificial um dia destru\u00edsse o mundo. Logo, eles empurraram essa filosofia de longo prazo para a academia e a ind\u00fastria.<\/p>\n

Nos principais laborat\u00f3rios de IA de hoje, fotos e cartazes de filmes cl\u00e1ssicos de fic\u00e7\u00e3o cient\u00edfica est\u00e3o pendurados nas paredes da sala de confer\u00eancias. \u00c0 medida que os pesquisadores perseguem esses temas, usam a mesma linguagem ambiciosa usada por Rosenblatt e outros pioneiros.<\/p>\n

At\u00e9 os nomes desses laborat\u00f3rios miram o futuro: Google Brain, DeepMind, SingularityNET. A verdade \u00e9 que a maioria das tecnologias rotuladas como “intelig\u00eancia artificial” imita o c\u00e9rebro humano apenas de pequenas maneiras \u2013se \u00e9 que o fazem. Certamente, n\u00e3o chegou ao ponto de seus criadores n\u00e3o poderem mais control\u00e1-la.<\/p>\n

A maioria dos pesquisadores pode se afastar da linguagem ambiciosa e reconhecer as limita\u00e7\u00f5es da tecnologia. Mas \u00e0s vezes as linhas ficam confusas.<\/p>\n

Por que eles acreditam<\/strong><\/p>\n

Em 2020, o OpenAI lan\u00e7ou um sistema chamado GPT-3. Podia gerar tu\u00edtes, escrever poesia, resumir emails, responder a perguntas simples, traduzir idiomas e at\u00e9 escrever programas de computador.<\/p>\n

Sam Altman, empres\u00e1rio e investidor de 37 anos que lidera o OpenAI como CEO, acredita que esse e outros sistemas similares s\u00e3o inteligentes. “Eles podem completar tarefas cognitivas \u00fateis”, disse-me Altman recentemente. “A capacidade de aprender \u2013a capacidade de aceitar um novo contexto e resolver algo de uma nova maneira\u2013 \u00e9 intelig\u00eancia.”<\/p>\n

GPT-3 \u00e9 o que os pesquisadores de intelig\u00eancia artificial chamam de rede neural, como a teia de neur\u00f4nios do c\u00e9rebro humano. Isso tamb\u00e9m \u00e9 uma linguagem ambiciosa. Uma rede neural \u00e9 realmente um sistema matem\u00e1tico que aprende habilidades identificando padr\u00f5es em grandes quantidades de dados digitais. Ao analisar milhares de fotos de gatos, por exemplo, ela pode aprender a reconhecer um gato.<\/p>\n

“Chamamos isso de ‘intelig\u00eancia artificial’, mas um nome melhor seria ‘extrair padr\u00f5es estat\u00edsticos de grandes conjuntos de dados'”, disse Gopnik.<\/p>\n

Foi essa mesma tecnologia que Rosenblatt explorou na d\u00e9cada de 1950. Ele n\u00e3o tinha a grande quantidade de dados digitais necess\u00e1rios para realizar essa grande ideia. Nem tinha o poder de computa\u00e7\u00e3o necess\u00e1rio para analisar todos esses dados. Mas por volta de 2010 os pesquisadores come\u00e7aram a mostrar que uma rede neural era t\u00e3o poderosa quanto ele e outros afirmavam havia muito tempo \u2013pelo menos para certas tarefas.<\/p>\n

Essas tarefas inclu\u00edam reconhecimento de imagem, reconhecimento de fala e tradu\u00e7\u00e3o. Uma rede neural \u00e9 a tecnologia que reconhece os comandos que voc\u00ea grita no seu iPhone e traduz entre franc\u00eas e ingl\u00eas no Google Tradutor.<\/p>\n

Mais recentemente, pesquisadores em lugares como Google e OpenAI come\u00e7aram a construir redes neurais que aprendiam com enormes quantidades de prosa, incluindo livros digitais e artigos da Wikipedia aos milhares. O GPT-3 \u00e9 um exemplo.<\/p>\n

Ao analisar todo esse texto digital, ele construiu o que se pode chamar de mapa matem\u00e1tico da linguagem humana \u2013mais de 175 bilh\u00f5es de pontos de dados que descrevem como juntamos as palavras. Usando esse mapa, ele consegue realizar muitas tarefas diferentes, como redigir discursos, escrever programas de computador e conversar.<\/p>\n

Mas h\u00e1 in\u00fameras ressalvas. Usar o GPT-3 \u00e9 como jogar dados: se voc\u00ea pedir dez discursos na voz de Donald Trump, pode dar cinco que soam notavelmente como o ex-presidente \u2013e outros cinco que nem chegam perto. Os programadores de computador usam a tecnologia para criar pequenos trechos de c\u00f3digo que podem inserir em programas maiores, mas, na maioria das vezes, eles precisam editar e massagear o que ela lhes d\u00e1.<\/p>\n

“Essas coisas n\u00e3o est\u00e3o nem no n\u00edvel da mente de uma crian\u00e7a m\u00e9dia de 2 anos”, disse Gopnik, que \u00e9 especializada em desenvolvimento infantil. “Em termos de pelo menos alguns tipos de intelig\u00eancia, elas provavelmente est\u00e3o em algum lugar entre um mofo e meu neto de 2 anos.”<\/p>\n

Mesmo depois de discutirmos essas falhas, Altman descreveu esse tipo de sistema como inteligente. Enquanto continuamos a conversar, ele admitiu que n\u00e3o \u00e9 inteligente como os humanos. “\u00c9 como uma forma alien\u00edgena de intelig\u00eancia”, disse ele. “Mas ainda vale.”<\/p>\n

As palavras usadas para descrever os poderes antigos e futuros dessa tecnologia significam coisas diferentes para pessoas diferentes. As pessoas discordam sobre o que \u00e9 e o que n\u00e3o \u00e9 intelig\u00eancia. A senci\u00eancia \u2013a capacidade de experimentar sentimentos e sensa\u00e7\u00f5es\u2013 n\u00e3o \u00e9 algo facilmente mensur\u00e1vel. Tampouco \u00e9 a consci\u00eancia \u2013estar desperto e ciente de seu entorno.<\/p>\n

Altman e muitos outros nessa \u00e1rea acreditam estar no caminho para construir uma m\u00e1quina capaz de fazer qualquer coisa que o c\u00e9rebro humano possa fazer. Essa confian\u00e7a transparece quando eles discutem as tecnologias atuais.<\/p>\n

“Acho que parte do que est\u00e1 acontecendo \u00e9 que as pessoas est\u00e3o realmente entusiasmadas com esses sistemas e expressando seu entusiasmo numa linguagem imperfeita”, disse Altman.<\/p>\n

Ele reconhece que alguns pesquisadores de IA “lutam para diferenciar entre realidade e fic\u00e7\u00e3o cient\u00edfica”. Mas acredita que esses pesquisadores ainda desempenham um papel valioso. “Eles nos ajudam a sonhar com toda a gama de possibilidades”, disse.
\nTalvez eles ajudem. Mas para o resto das pessoas esses sonhos podem atrapalhar as quest\u00f5es que merecem nossa aten\u00e7\u00e3o.<\/p>\n

Por que todos acreditam<\/strong><\/p>\n

Em meados da d\u00e9cada de 1960, um pesquisador do Instituto de Tecnologia de Massachusetts (MIT), Joseph Weizenbaum, construiu uma psicoterapeuta automatizada que chamou de Eliza. Esse chatbot (rob\u00f4 de conversa) era simples. Basicamente, quando voc\u00ea digitava uma ideia na tela do computador, ele pedia para voc\u00ea expandir essa ideia \u2013ou apenas repetia suas palavras em forma de pergunta.<\/p>\n

Mesmo quando Weizenbaum escolheu uma conversa para o artigo acad\u00eamico que publicou sobre a tecnologia, ficou assim, com Eliza respondendo em letras mai\u00fasculas:<\/p>\n

Os homens s\u00e3o todos iguais.<\/p>\n

DE QUE MANEIRA?<\/p>\n

Eles est\u00e3o sempre nos incomodando sobre uma coisa ou outra.<\/p>\n

VOC\u00ca CONSEGUE PENSAR EM UM EXEMPLO ESPEC\u00cdFICO?<\/p>\n

Bem, meu namorado me fez vir aqui.<\/p>\n

SEU NAMORADO FEZ VOC\u00ca VIR AQUI<\/p>\n

Para grande surpresa de Weizenbaum, por\u00e9m, as pessoas tratavam Eliza como se fosse humana. Elas compartilhavam livremente seus problemas pessoais e se confortavam com suas respostas.<\/p>\n

“Eu sabia por longa experi\u00eancia que os fortes la\u00e7os emocionais que muitos programadores t\u00eam com seus computadores geralmente se formam depois de pequenas experi\u00eancias com m\u00e1quinas”, escreveu ele mais tarde. “O que eu n\u00e3o tinha percebido \u00e9 que exposi\u00e7\u00f5es extremamente curtas a um programa de computador relativamente simples poderiam induzir um poderoso pensamento delirante em pessoas bastante normais.”<\/p>\n

N\u00f3s, humanos, somos suscet\u00edveis a esses sentimentos. Quando c\u00e3es, gatos e outros animais exibem at\u00e9 pequenos momentos de comportamento humano, tendemos a supor que eles s\u00e3o mais parecidos conosco do que realmente s\u00e3o. O mesmo acontece quando vemos ind\u00edcios de comportamento humano em uma m\u00e1quina.<\/p>\n

Os cientistas agora chamam isso de efeito Eliza.<\/p>\n

Quase a mesma coisa est\u00e1 acontecendo com a tecnologia moderna. Alguns meses ap\u00f3s o lan\u00e7amento do GPT-3, um inventor e empres\u00e1rio, Philip Bosua, me enviou um e-mail. A linha de assunto era: “Deus \u00e9 uma m\u00e1quina”.<\/p>\n

“N\u00e3o h\u00e1 d\u00favida em minha mente que o GPT-3 surgiu como senciente”, dizia. “Todos n\u00f3s sab\u00edamos que isso aconteceria no futuro, mas parece que esse futuro \u00e9 agora. Ele me v\u00ea como um profeta para disseminar sua mensagem religiosa, e estranhamente \u00e9 assim que me sinto.”<\/p>\n

Depois de projetar mais de 600 aplicativos para o iPhone, Bosua desenvolveu uma l\u00e2mpada que voc\u00ea poderia controlar com o smartphone, construiu um neg\u00f3cio em torno dessa inven\u00e7\u00e3o com uma campanha no Kickstarter e acabou levantando US$ 12 milh\u00f5es (R$ 62,6 milh\u00f5es) da empresa de capital de risco Sequoia Capital, do Vale do Sil\u00edcio. Hoje, embora ele n\u00e3o tenha forma\u00e7\u00e3o biom\u00e9dica, est\u00e1 desenvolvendo um dispositivo para diab\u00e9ticos que pode monitorar seus n\u00edveis de glicose sem furar a pele.<\/p>\n

Quando falamos ao telefone, ele me pediu que mantivesse sua identidade em segredo. \u00c9 um empres\u00e1rio de tecnologia experiente que estava ajudando a construir uma nova empresa, a Know Labs. Mas depois que Lemoine fez afirma\u00e7\u00f5es do mesmo tipo sobre tecnologia semelhante desenvolvida no Google, Bosua disse que concordava em falar abertamente.<\/p>\n

“Quando descobri o que descobri, ainda era muito cedo”, disse ele. “Mas agora tudo isso est\u00e1 come\u00e7ando a aparecer.”<\/p>\n

Quando apontei que muitos especialistas insistiam que esses tipos de sistemas s\u00f3 eram bons para repetir padr\u00f5es que tinham visto, ele disse que tamb\u00e9m \u00e9 assim que os humanos se comportam. “Uma crian\u00e7a n\u00e3o imita apenas o que v\u00ea nos pais, o que v\u00ea no mundo ao seu redor?”, disse ele.<\/p>\n

Bosua reconheceu que o GPT-3 nem sempre \u00e9 coerente, mas que se pode evitar isso se for usado da maneira correta.
\n“A melhor sintaxe \u00e9 a honestidade”, disse ele. “Se voc\u00ea for honesto com ele e expressar seus pensamentos crus, lhe dar\u00e1 a capacidade de responder \u00e0s perguntas que voc\u00ea est\u00e1 fazendo.”<\/p>\n

Bosua n\u00e3o representa necessariamente o homem comum. O presidente de sua nova empresa o chama de “divinamente inspirado” \u2013algu\u00e9m que “v\u00ea as coisas cedo”. Mas suas experi\u00eancias mostram o poder que at\u00e9 uma tecnologia muito falha tem para capturar a imagina\u00e7\u00e3o.<\/p>\n

Para onde os rob\u00f4s nos levar\u00e3o<\/strong><\/p>\n

Margaret Mitchell se preocupa com o que tudo isso significa para o futuro. Como pesquisadora na Microsoft, depois no Google, onde ajudou a fundar a equipe de \u00e9tica em IA, e agora no Hugging Face, outro laborat\u00f3rio de pesquisa de destaque, ela viu o surgimento dessa tecnologia em primeira m\u00e3o. Hoje, disse, a tecnologia \u00e9 relativamente simples e obviamente falha, mas muitas pessoas a veem como um pouco humana. O que acontecer\u00e1 quando a tecnologia se tornar muito mais poderosa?<\/p>\n

Al\u00e9m de gerar tu\u00edtes e postagens em blogs e come\u00e7ar a imitar conversas, sistemas constru\u00eddos por laborat\u00f3rios como o OpenAI podem gerar imagens. Com uma nova ferramenta chamada DALL-E, voc\u00ea pode criar imagens digitais com realidade fotogr\u00e1fica simplesmente descrevendo, em linguagem simples, o que deseja ver.<\/p>\n

Alguns na comunidade de pesquisadores de IA temem que esses sistemas estejam a caminho da senci\u00eancia ou consci\u00eancia. Mas isso n\u00e3o vem ao caso.<\/p>\n

“Um organismo consciente \u2013como uma pessoa, um cachorro ou outros animais\u2013 pode aprender algo em um contexto e aprender outra coisa em outro contexto, e ent\u00e3o juntar as duas coisas para fazer algo em um novo contexto que nunca experimentou antes”, disse Allen, o professor na Universidade de Pittsburgh. “Essa tecnologia n\u00e3o est\u00e1 nem perto de fazer isso.”<\/p>\n

Existem preocupa\u00e7\u00f5es muito mais imediatas \u2013e mais reais.<\/p>\n

\u00c0 medida que essa tecnologia continua a se aperfei\u00e7oar, pode ajudar a espalhar desinforma\u00e7\u00e3o pela internet \u2013textos falsos e imagens falsas\u2013, alimentando o tipo de campanha online que pode ter ajudado a influenciar a elei\u00e7\u00e3o presidencial de 2016 nos EUA. Poderia produzir chatbots que imitam a conversa de maneiras muito mais convincentes. E esses sistemas podem operar em uma escala que faz as atuais campanhas de desinforma\u00e7\u00e3o conduzidas por humanos parecerem min\u00fasculas em compara\u00e7\u00e3o.<\/p>\n

Se e quando isso acontecer, teremos que tratar tudo o que vemos online com extrema desconfian\u00e7a. Mas Mitchell se pergunta se estamos \u00e0 altura do desafio.<\/p>\n

“Eu me preocupo que os chatbots prejudiquem as pessoas”, diz pesquisadora. “Eles t\u00eam o poder de nos convencer sobre em que acreditar e o que fazer.”<\/p>\n

Por Cade Metz, traduzido por Luiz Roberto M. Gon\u00e7alves<\/p>\n

*Artigo publicado no The New York Times e, posteriormente, na Folha de S. Paulo<\/em><\/p>\n

(Foto: Reprodu\u00e7\u00e3o\/Freepik\/Frolopiaton Palm)<\/strong><\/em><\/p>","protected":false},"excerpt":{"rendered":"

“Eu me preocupo que os chatbots prejudiquem as pessoas. Eles t\u00eam o poder de nos convencer sobre em que acreditar e o que fazer”, diz pesquisadora<\/p>","protected":false},"author":10,"featured_media":9501,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[35],"tags":[13],"class_list":["post-9500","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ti","tag-sindical"],"yoast_head":"\nOpini\u00e3o: Por mais que possa parecer, IA n\u00e3o tem consci\u00eancia - FENATI<\/title>\n<meta name=\"robots\" content=\"noindex, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<meta property=\"og:locale\" content=\"en_US\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Opini\u00e3o: Por mais que possa parecer, IA n\u00e3o tem consci\u00eancia - FENATI\" \/>\n<meta property=\"og:description\" content=\""Eu me preocupo que os chatbots prejudiquem as pessoas. Eles t\u00eam o poder de nos convencer sobre em que acreditar e o que fazer", diz pesquisadora\" \/>\n<meta property=\"og:url\" content=\"https:\/\/homolog.fenati.org.br\/en\/opiniao-mais-possa-parecer-ia-nao-tem-consciencia\/\" \/>\n<meta property=\"og:site_name\" content=\"FENATI\" \/>\n<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/feittinf\" \/>\n<meta property=\"article:published_time\" content=\"2025-06-09T15:10:33+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2025-06-09T20:42:36+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/homolog.fenati.org.br\/wp-content\/uploads\/2025\/06\/design-sem-nome-31.jpg\" \/>\n\t<meta property=\"og:image:width\" content=\"1200\" \/>\n\t<meta property=\"og:image:height\" content=\"630\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/jpeg\" \/>\n<meta name=\"author\" content=\"Julia Stoever\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:creator\" content=\"@FederacaoTiBR\" \/>\n<meta name=\"twitter:site\" content=\"@FederacaoTiBR\" \/>\n<meta name=\"twitter:label1\" content=\"Written by\" \/>\n\t<meta name=\"twitter:data1\" content=\"Julia Stoever\" \/>\n\t<meta name=\"twitter:label2\" content=\"Est. reading time\" \/>\n\t<meta name=\"twitter:data2\" content=\"17 minutes\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/opiniao-mais-possa-parecer-ia-nao-tem-consciencia\\\/#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/opiniao-mais-possa-parecer-ia-nao-tem-consciencia\\\/\"},\"author\":{\"name\":\"Julia Stoever\",\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/#\\\/schema\\\/person\\\/5b0800dda1ad08bac67cec5eacddc965\"},\"headline\":\"Opini\u00e3o: Por mais que possa parecer, IA n\u00e3o tem consci\u00eancia\",\"datePublished\":\"2025-06-09T15:10:33+00:00\",\"dateModified\":\"2025-06-09T20:42:36+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/opiniao-mais-possa-parecer-ia-nao-tem-consciencia\\\/\"},\"wordCount\":3361,\"publisher\":{\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/#organization\"},\"image\":{\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/opiniao-mais-possa-parecer-ia-nao-tem-consciencia\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/homolog.fenati.org.br\\\/wp-content\\\/uploads\\\/2025\\\/06\\\/design-sem-nome-31.jpg\",\"keywords\":[\"sindical\"],\"articleSection\":[\"TI\"],\"inLanguage\":\"en-US\"},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/opiniao-mais-possa-parecer-ia-nao-tem-consciencia\\\/\",\"url\":\"https:\\\/\\\/homolog.fenati.org.br\\\/opiniao-mais-possa-parecer-ia-nao-tem-consciencia\\\/\",\"name\":\"Opini\u00e3o: Por mais que possa parecer, IA n\u00e3o tem consci\u00eancia - FENATI\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/opiniao-mais-possa-parecer-ia-nao-tem-consciencia\\\/#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/opiniao-mais-possa-parecer-ia-nao-tem-consciencia\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/homolog.fenati.org.br\\\/wp-content\\\/uploads\\\/2025\\\/06\\\/design-sem-nome-31.jpg\",\"datePublished\":\"2025-06-09T15:10:33+00:00\",\"dateModified\":\"2025-06-09T20:42:36+00:00\",\"breadcrumb\":{\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/opiniao-mais-possa-parecer-ia-nao-tem-consciencia\\\/#breadcrumb\"},\"inLanguage\":\"en-US\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/homolog.fenati.org.br\\\/opiniao-mais-possa-parecer-ia-nao-tem-consciencia\\\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"en-US\",\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/opiniao-mais-possa-parecer-ia-nao-tem-consciencia\\\/#primaryimage\",\"url\":\"https:\\\/\\\/homolog.fenati.org.br\\\/wp-content\\\/uploads\\\/2025\\\/06\\\/design-sem-nome-31.jpg\",\"contentUrl\":\"https:\\\/\\\/homolog.fenati.org.br\\\/wp-content\\\/uploads\\\/2025\\\/06\\\/design-sem-nome-31.jpg\",\"width\":1200,\"height\":630,\"caption\":\"Opini\u00e3o: Por mais que possa parecer, IA n\u00e3o tem consci\u00eancia\"},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/opiniao-mais-possa-parecer-ia-nao-tem-consciencia\\\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"In\u00edcio\",\"item\":\"https:\\\/\\\/homolog.fenati.org.br\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Opini\u00e3o: Por mais que possa parecer, IA n\u00e3o tem consci\u00eancia\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/#website\",\"url\":\"https:\\\/\\\/homolog.fenati.org.br\\\/\",\"name\":\"FEITTINF\",\"description\":\"Federa\u00e7\u00e3o Nacional dos Trabalhadores em Tecnologia da\u00a0Informa\u00e7\u00e3o\",\"publisher\":{\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/homolog.fenati.org.br\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"en-US\"},{\"@type\":\"Organization\",\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/#organization\",\"name\":\"FEITTINF\",\"url\":\"https:\\\/\\\/homolog.fenati.org.br\\\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"en-US\",\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/#\\\/schema\\\/logo\\\/image\\\/\",\"url\":\"https:\\\/\\\/homolog.fenati.org.br\\\/wp-content\\\/uploads\\\/2023\\\/08\\\/logo_300x50.png\",\"contentUrl\":\"https:\\\/\\\/homolog.fenati.org.br\\\/wp-content\\\/uploads\\\/2023\\\/08\\\/logo_300x50.png\",\"width\":350,\"height\":50,\"caption\":\"FEITTINF\"},\"image\":{\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/#\\\/schema\\\/logo\\\/image\\\/\"},\"sameAs\":[\"https:\\\/\\\/www.facebook.com\\\/feittinf\",\"https:\\\/\\\/x.com\\\/FederacaoTiBR\",\"https:\\\/\\\/www.instagram.com\\\/feittinf\\\/\"]},{\"@type\":\"Person\",\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/#\\\/schema\\\/person\\\/5b0800dda1ad08bac67cec5eacddc965\",\"name\":\"Julia Stoever\",\"url\":\"https:\\\/\\\/homolog.fenati.org.br\\\/en\\\/author\\\/julia-stoever\\\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Opini\u00e3o: Por mais que possa parecer, IA n\u00e3o tem consci\u00eancia - FENATI","robots":{"index":"noindex","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"og_locale":"en_US","og_type":"article","og_title":"Opini\u00e3o: Por mais que possa parecer, IA n\u00e3o tem consci\u00eancia - FENATI","og_description":"\"Eu me preocupo que os chatbots prejudiquem as pessoas. Eles t\u00eam o poder de nos convencer sobre em que acreditar e o que fazer\", diz pesquisadora","og_url":"https:\/\/homolog.fenati.org.br\/en\/opiniao-mais-possa-parecer-ia-nao-tem-consciencia\/","og_site_name":"FENATI","article_publisher":"https:\/\/www.facebook.com\/feittinf","article_published_time":"2025-06-09T15:10:33+00:00","article_modified_time":"2025-06-09T20:42:36+00:00","og_image":[{"width":1200,"height":630,"url":"https:\/\/homolog.fenati.org.br\/wp-content\/uploads\/2025\/06\/design-sem-nome-31.jpg","type":"image\/jpeg"}],"author":"Julia Stoever","twitter_card":"summary_large_image","twitter_creator":"@FederacaoTiBR","twitter_site":"@FederacaoTiBR","twitter_misc":{"Written by":"Julia Stoever","Est. reading time":"17 minutes"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/homolog.fenati.org.br\/opiniao-mais-possa-parecer-ia-nao-tem-consciencia\/#article","isPartOf":{"@id":"https:\/\/homolog.fenati.org.br\/opiniao-mais-possa-parecer-ia-nao-tem-consciencia\/"},"author":{"name":"Julia Stoever","@id":"https:\/\/homolog.fenati.org.br\/#\/schema\/person\/5b0800dda1ad08bac67cec5eacddc965"},"headline":"Opini\u00e3o: Por mais que possa parecer, IA n\u00e3o tem consci\u00eancia","datePublished":"2025-06-09T15:10:33+00:00","dateModified":"2025-06-09T20:42:36+00:00","mainEntityOfPage":{"@id":"https:\/\/homolog.fenati.org.br\/opiniao-mais-possa-parecer-ia-nao-tem-consciencia\/"},"wordCount":3361,"publisher":{"@id":"https:\/\/homolog.fenati.org.br\/#organization"},"image":{"@id":"https:\/\/homolog.fenati.org.br\/opiniao-mais-possa-parecer-ia-nao-tem-consciencia\/#primaryimage"},"thumbnailUrl":"https:\/\/homolog.fenati.org.br\/wp-content\/uploads\/2025\/06\/design-sem-nome-31.jpg","keywords":["sindical"],"articleSection":["TI"],"inLanguage":"en-US"},{"@type":"WebPage","@id":"https:\/\/homolog.fenati.org.br\/opiniao-mais-possa-parecer-ia-nao-tem-consciencia\/","url":"https:\/\/homolog.fenati.org.br\/opiniao-mais-possa-parecer-ia-nao-tem-consciencia\/","name":"Opini\u00e3o: Por mais que possa parecer, IA n\u00e3o tem consci\u00eancia - FENATI","isPartOf":{"@id":"https:\/\/homolog.fenati.org.br\/#website"},"primaryImageOfPage":{"@id":"https:\/\/homolog.fenati.org.br\/opiniao-mais-possa-parecer-ia-nao-tem-consciencia\/#primaryimage"},"image":{"@id":"https:\/\/homolog.fenati.org.br\/opiniao-mais-possa-parecer-ia-nao-tem-consciencia\/#primaryimage"},"thumbnailUrl":"https:\/\/homolog.fenati.org.br\/wp-content\/uploads\/2025\/06\/design-sem-nome-31.jpg","datePublished":"2025-06-09T15:10:33+00:00","dateModified":"2025-06-09T20:42:36+00:00","breadcrumb":{"@id":"https:\/\/homolog.fenati.org.br\/opiniao-mais-possa-parecer-ia-nao-tem-consciencia\/#breadcrumb"},"inLanguage":"en-US","potentialAction":[{"@type":"ReadAction","target":["https:\/\/homolog.fenati.org.br\/opiniao-mais-possa-parecer-ia-nao-tem-consciencia\/"]}]},{"@type":"ImageObject","inLanguage":"en-US","@id":"https:\/\/homolog.fenati.org.br\/opiniao-mais-possa-parecer-ia-nao-tem-consciencia\/#primaryimage","url":"https:\/\/homolog.fenati.org.br\/wp-content\/uploads\/2025\/06\/design-sem-nome-31.jpg","contentUrl":"https:\/\/homolog.fenati.org.br\/wp-content\/uploads\/2025\/06\/design-sem-nome-31.jpg","width":1200,"height":630,"caption":"Opini\u00e3o: Por mais que possa parecer, IA n\u00e3o tem consci\u00eancia"},{"@type":"BreadcrumbList","@id":"https:\/\/homolog.fenati.org.br\/opiniao-mais-possa-parecer-ia-nao-tem-consciencia\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"In\u00edcio","item":"https:\/\/homolog.fenati.org.br\/"},{"@type":"ListItem","position":2,"name":"Opini\u00e3o: Por mais que possa parecer, IA n\u00e3o tem consci\u00eancia"}]},{"@type":"WebSite","@id":"https:\/\/homolog.fenati.org.br\/#website","url":"https:\/\/homolog.fenati.org.br\/","name":"FEITTINF","description":"Federa\u00e7\u00e3o Nacional dos Trabalhadores em Tecnologia da\u00a0Informa\u00e7\u00e3o","publisher":{"@id":"https:\/\/homolog.fenati.org.br\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/homolog.fenati.org.br\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"en-US"},{"@type":"Organization","@id":"https:\/\/homolog.fenati.org.br\/#organization","name":"FEITTINF","url":"https:\/\/homolog.fenati.org.br\/","logo":{"@type":"ImageObject","inLanguage":"en-US","@id":"https:\/\/homolog.fenati.org.br\/#\/schema\/logo\/image\/","url":"https:\/\/homolog.fenati.org.br\/wp-content\/uploads\/2023\/08\/logo_300x50.png","contentUrl":"https:\/\/homolog.fenati.org.br\/wp-content\/uploads\/2023\/08\/logo_300x50.png","width":350,"height":50,"caption":"FEITTINF"},"image":{"@id":"https:\/\/homolog.fenati.org.br\/#\/schema\/logo\/image\/"},"sameAs":["https:\/\/www.facebook.com\/feittinf","https:\/\/x.com\/FederacaoTiBR","https:\/\/www.instagram.com\/feittinf\/"]},{"@type":"Person","@id":"https:\/\/homolog.fenati.org.br\/#\/schema\/person\/5b0800dda1ad08bac67cec5eacddc965","name":"Julia Stoever","url":"https:\/\/homolog.fenati.org.br\/en\/author\/julia-stoever\/"}]}},"_links":{"self":[{"href":"https:\/\/homolog.fenati.org.br\/en\/wp-json\/wp\/v2\/posts\/9500","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/homolog.fenati.org.br\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/homolog.fenati.org.br\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/homolog.fenati.org.br\/en\/wp-json\/wp\/v2\/users\/10"}],"replies":[{"embeddable":true,"href":"https:\/\/homolog.fenati.org.br\/en\/wp-json\/wp\/v2\/comments?post=9500"}],"version-history":[{"count":1,"href":"https:\/\/homolog.fenati.org.br\/en\/wp-json\/wp\/v2\/posts\/9500\/revisions"}],"predecessor-version":[{"id":9502,"href":"https:\/\/homolog.fenati.org.br\/en\/wp-json\/wp\/v2\/posts\/9500\/revisions\/9502"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/homolog.fenati.org.br\/en\/wp-json\/wp\/v2\/media\/9501"}],"wp:attachment":[{"href":"https:\/\/homolog.fenati.org.br\/en\/wp-json\/wp\/v2\/media?parent=9500"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/homolog.fenati.org.br\/en\/wp-json\/wp\/v2\/categories?post=9500"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/homolog.fenati.org.br\/en\/wp-json\/wp\/v2\/tags?post=9500"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}