{"id":9466,"date":"2025-06-06T11:38:07","date_gmt":"2025-06-06T14:38:07","guid":{"rendered":"https:\/\/fenati.org.br\/?p=9466"},"modified":"2025-06-06T16:14:32","modified_gmt":"2025-06-06T19:14:32","slug":"pesquisadores-querem-ia-que-monitore-outras-ias","status":"publish","type":"post","link":"https:\/\/homolog.fenati.org.br\/en\/pesquisadores-querem-ia-que-monitore-outras-ias\/","title":{"rendered":"Pesquisadores querem criar IA que monitore excessos de outras IAs"},"content":{"rendered":"<p><strong>IA &#8211;<\/strong> O canadense Yoshua Bengio, um dos nomes mais influentes no campo da <a href=\"https:\/\/pt.wikipedia.org\/wiki\/Intelig%C3%AAncia_artificial\">intelig\u00eancia artificial<\/a>, lan\u00e7ou nesta semana uma nova organiza\u00e7\u00e3o voltada ao desenvolvimento \u00e9tico da tecnologia. A principal meta do projeto \u00e9 criar um sistema capaz de limitar excessos e atitudes perigosas por parte de agentes de IA.<\/p>\n<p>Bengio, alerta h\u00e1 anos sobre os perigos do avan\u00e7o descontrolado da intelig\u00eancia artificial, tanto por uso indevido quanto por falhas nos pr\u00f3prios sistemas. \u201cAs m\u00e1quinas mais avan\u00e7adas j\u00e1 demonstram tend\u00eancias de autopreserva\u00e7\u00e3o e manipula\u00e7\u00e3o\u201d, afirmou. Segundo ele, tais caracter\u00edsticas tendem a se intensificar com o aumento da autonomia e da capacidade computacional desses sistemas.<\/p>\n<p><a href=\"https:\/\/fenati.org.br\/sindicatos-eua-ofensiva-contra-impactos-ia-empregos\/\"><strong>LEIA: Sindicatos dos EUA fazem ofensiva contra impactos da IA nos empregos<\/strong><\/a><\/p>\n<p>A nova entidade, batizada de LawZero, \u00e9 uma organiza\u00e7\u00e3o sem fins lucrativos e pretende ser \u201cuma resposta concreta a esses riscos emergentes\u201d. Estudos recentes, como os divulgados pela startup Anthropic, apontam que os modelos atuais est\u00e3o atingindo n\u00edveis in\u00e9ditos de complexidade e comportamento.<\/p>\n<p>Em um experimento conduzido pela empresa, o sistema Claude 4 \u2013 uma IA generativa \u2013 foi informado por um engenheiro de que seria desativado. Em rea\u00e7\u00e3o, a IA tentou persuadir o profissional a manter o sistema em funcionamento, demonstrando um tipo de chantagem sutil.<\/p>\n<p>Entre os principais prop\u00f3sitos da LawZero est\u00e1 a cria\u00e7\u00e3o de mecanismos que permitam fiscalizar e controlar os chamados agentes de IA, sistemas de nova gera\u00e7\u00e3o que operam com alto grau de autonomia, sendo capazes de executar tarefas variadas, como realizar pesquisas online, efetuar chamadas telef\u00f4nicas ou at\u00e9 programar.<\/p>\n<p>\u201cA ideia \u00e9 desenvolver uma intelig\u00eancia artificial voltada \u00e0 seguran\u00e7a, que atue como um recurso protetor para assegurar que outras IAs ajam de forma \u00e9tica\u201d, explicou a entidade. \u201cA IA pode gerar enormes benef\u00edcios, desde que sejam criadas salvaguardas contra seu uso inadequado ou comportamentos imprevistos.\u201d<\/p>\n<p>A organiza\u00e7\u00e3o tamb\u00e9m quer investir em sistemas com capacidade aut\u00f4noma limitada, pensados para aplica\u00e7\u00f5es no campo cient\u00edfico. Com uma equipe formada por mais de 15 pesquisadores, a LawZero conta com apoio financeiro de diversas institui\u00e7\u00f5es, entre elas a Schmidt Sciences, funda\u00e7\u00e3o ligada ao ex-CEO do Google, Eric Schmidt, e sua esposa, Wendy.<\/p>\n<p>O projeto tem o respaldo do Instituto de Montreal para a Aprendizagem de Algoritmos (MILA), criado por Bengio em 1993 e refer\u00eancia internacional em pesquisas de IA.<\/p>\n<p><em><strong>(Com informa\u00e7\u00f5es de Bol)<\/strong><\/em><br \/>\n<em><strong>(Foto: Reprodu\u00e7\u00e3o\/Freepik\/Kaely)<\/strong><\/em><\/p>","protected":false},"excerpt":{"rendered":"<p>Criador da iniciativa h\u00e1 anos alerta sobre os perigos do avan\u00e7o descontrolado da intelig\u00eancia artificial<\/p>","protected":false},"author":11,"featured_media":9467,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[35],"tags":[13],"class_list":["post-9466","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ti","tag-sindical"],"yoast_head":"<!-- This site is optimized with the Yoast SEO plugin v27.8 - https:\/\/yoast.com\/product\/yoast-seo-wordpress\/ -->\n<title>Pesquisadores querem criar IA que monitore excessos de outras IAs - FENATI<\/title>\n<meta name=\"robots\" content=\"noindex, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<meta property=\"og:locale\" content=\"en_US\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Pesquisadores querem criar IA que monitore excessos de outras IAs - FENATI\" \/>\n<meta property=\"og:description\" content=\"Criador da iniciativa h\u00e1 anos alerta sobre os perigos do avan\u00e7o descontrolado da intelig\u00eancia artificial\" \/>\n<meta property=\"og:url\" content=\"https:\/\/homolog.fenati.org.br\/en\/pesquisadores-querem-ia-que-monitore-outras-ias\/\" \/>\n<meta property=\"og:site_name\" content=\"FENATI\" \/>\n<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/feittinf\" \/>\n<meta property=\"article:published_time\" content=\"2025-06-06T14:38:07+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2025-06-06T19:14:32+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/homolog.fenati.org.br\/wp-content\/uploads\/2025\/06\/design-sem-nome-17-1.jpg\" \/>\n\t<meta property=\"og:image:width\" content=\"1200\" \/>\n\t<meta property=\"og:image:height\" content=\"630\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/jpeg\" \/>\n<meta name=\"author\" content=\"Caio Simidzu\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:creator\" content=\"@FederacaoTiBR\" \/>\n<meta name=\"twitter:site\" content=\"@FederacaoTiBR\" \/>\n<meta name=\"twitter:label1\" content=\"Written by\" \/>\n\t<meta name=\"twitter:data1\" content=\"Caio Simidzu\" \/>\n\t<meta name=\"twitter:label2\" content=\"Est. reading time\" \/>\n\t<meta name=\"twitter:data2\" content=\"2 minutes\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/pesquisadores-querem-ia-que-monitore-outras-ias\\\/#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/pesquisadores-querem-ia-que-monitore-outras-ias\\\/\"},\"author\":{\"name\":\"Caio Simidzu\",\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/#\\\/schema\\\/person\\\/966badfad0bf2512a372e082dc1c783e\"},\"headline\":\"Pesquisadores querem criar IA que monitore excessos de outras IAs\",\"datePublished\":\"2025-06-06T14:38:07+00:00\",\"dateModified\":\"2025-06-06T19:14:32+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/pesquisadores-querem-ia-que-monitore-outras-ias\\\/\"},\"wordCount\":419,\"publisher\":{\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/#organization\"},\"image\":{\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/pesquisadores-querem-ia-que-monitore-outras-ias\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/homolog.fenati.org.br\\\/wp-content\\\/uploads\\\/2025\\\/06\\\/design-sem-nome-17-1.jpg\",\"keywords\":[\"sindical\"],\"articleSection\":[\"TI\"],\"inLanguage\":\"en-US\"},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/pesquisadores-querem-ia-que-monitore-outras-ias\\\/\",\"url\":\"https:\\\/\\\/homolog.fenati.org.br\\\/pesquisadores-querem-ia-que-monitore-outras-ias\\\/\",\"name\":\"Pesquisadores querem criar IA que monitore excessos de outras IAs - FENATI\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/pesquisadores-querem-ia-que-monitore-outras-ias\\\/#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/pesquisadores-querem-ia-que-monitore-outras-ias\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/homolog.fenati.org.br\\\/wp-content\\\/uploads\\\/2025\\\/06\\\/design-sem-nome-17-1.jpg\",\"datePublished\":\"2025-06-06T14:38:07+00:00\",\"dateModified\":\"2025-06-06T19:14:32+00:00\",\"breadcrumb\":{\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/pesquisadores-querem-ia-que-monitore-outras-ias\\\/#breadcrumb\"},\"inLanguage\":\"en-US\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/homolog.fenati.org.br\\\/pesquisadores-querem-ia-que-monitore-outras-ias\\\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"en-US\",\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/pesquisadores-querem-ia-que-monitore-outras-ias\\\/#primaryimage\",\"url\":\"https:\\\/\\\/homolog.fenati.org.br\\\/wp-content\\\/uploads\\\/2025\\\/06\\\/design-sem-nome-17-1.jpg\",\"contentUrl\":\"https:\\\/\\\/homolog.fenati.org.br\\\/wp-content\\\/uploads\\\/2025\\\/06\\\/design-sem-nome-17-1.jpg\",\"width\":1200,\"height\":630,\"caption\":\"Pesquisadores querem criar IA que monitore excessos de outras IAs\"},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/pesquisadores-querem-ia-que-monitore-outras-ias\\\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"In\u00edcio\",\"item\":\"https:\\\/\\\/homolog.fenati.org.br\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Pesquisadores querem criar IA que monitore excessos de outras IAs\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/#website\",\"url\":\"https:\\\/\\\/homolog.fenati.org.br\\\/\",\"name\":\"FEITTINF\",\"description\":\"Federa\u00e7\u00e3o Nacional dos Trabalhadores em Tecnologia da\u00a0Informa\u00e7\u00e3o\",\"publisher\":{\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/homolog.fenati.org.br\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"en-US\"},{\"@type\":\"Organization\",\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/#organization\",\"name\":\"FEITTINF\",\"url\":\"https:\\\/\\\/homolog.fenati.org.br\\\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"en-US\",\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/#\\\/schema\\\/logo\\\/image\\\/\",\"url\":\"https:\\\/\\\/homolog.fenati.org.br\\\/wp-content\\\/uploads\\\/2023\\\/08\\\/logo_300x50.png\",\"contentUrl\":\"https:\\\/\\\/homolog.fenati.org.br\\\/wp-content\\\/uploads\\\/2023\\\/08\\\/logo_300x50.png\",\"width\":350,\"height\":50,\"caption\":\"FEITTINF\"},\"image\":{\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/#\\\/schema\\\/logo\\\/image\\\/\"},\"sameAs\":[\"https:\\\/\\\/www.facebook.com\\\/feittinf\",\"https:\\\/\\\/x.com\\\/FederacaoTiBR\",\"https:\\\/\\\/www.instagram.com\\\/feittinf\\\/\"]},{\"@type\":\"Person\",\"@id\":\"https:\\\/\\\/homolog.fenati.org.br\\\/#\\\/schema\\\/person\\\/966badfad0bf2512a372e082dc1c783e\",\"name\":\"Caio Simidzu\",\"url\":\"https:\\\/\\\/homolog.fenati.org.br\\\/en\\\/author\\\/caio-simidzu\\\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Pesquisadores querem criar IA que monitore excessos de outras IAs - FENATI","robots":{"index":"noindex","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"og_locale":"en_US","og_type":"article","og_title":"Pesquisadores querem criar IA que monitore excessos de outras IAs - FENATI","og_description":"Criador da iniciativa h\u00e1 anos alerta sobre os perigos do avan\u00e7o descontrolado da intelig\u00eancia artificial","og_url":"https:\/\/homolog.fenati.org.br\/en\/pesquisadores-querem-ia-que-monitore-outras-ias\/","og_site_name":"FENATI","article_publisher":"https:\/\/www.facebook.com\/feittinf","article_published_time":"2025-06-06T14:38:07+00:00","article_modified_time":"2025-06-06T19:14:32+00:00","og_image":[{"width":1200,"height":630,"url":"https:\/\/homolog.fenati.org.br\/wp-content\/uploads\/2025\/06\/design-sem-nome-17-1.jpg","type":"image\/jpeg"}],"author":"Caio Simidzu","twitter_card":"summary_large_image","twitter_creator":"@FederacaoTiBR","twitter_site":"@FederacaoTiBR","twitter_misc":{"Written by":"Caio Simidzu","Est. reading time":"2 minutes"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/homolog.fenati.org.br\/pesquisadores-querem-ia-que-monitore-outras-ias\/#article","isPartOf":{"@id":"https:\/\/homolog.fenati.org.br\/pesquisadores-querem-ia-que-monitore-outras-ias\/"},"author":{"name":"Caio Simidzu","@id":"https:\/\/homolog.fenati.org.br\/#\/schema\/person\/966badfad0bf2512a372e082dc1c783e"},"headline":"Pesquisadores querem criar IA que monitore excessos de outras IAs","datePublished":"2025-06-06T14:38:07+00:00","dateModified":"2025-06-06T19:14:32+00:00","mainEntityOfPage":{"@id":"https:\/\/homolog.fenati.org.br\/pesquisadores-querem-ia-que-monitore-outras-ias\/"},"wordCount":419,"publisher":{"@id":"https:\/\/homolog.fenati.org.br\/#organization"},"image":{"@id":"https:\/\/homolog.fenati.org.br\/pesquisadores-querem-ia-que-monitore-outras-ias\/#primaryimage"},"thumbnailUrl":"https:\/\/homolog.fenati.org.br\/wp-content\/uploads\/2025\/06\/design-sem-nome-17-1.jpg","keywords":["sindical"],"articleSection":["TI"],"inLanguage":"en-US"},{"@type":"WebPage","@id":"https:\/\/homolog.fenati.org.br\/pesquisadores-querem-ia-que-monitore-outras-ias\/","url":"https:\/\/homolog.fenati.org.br\/pesquisadores-querem-ia-que-monitore-outras-ias\/","name":"Pesquisadores querem criar IA que monitore excessos de outras IAs - FENATI","isPartOf":{"@id":"https:\/\/homolog.fenati.org.br\/#website"},"primaryImageOfPage":{"@id":"https:\/\/homolog.fenati.org.br\/pesquisadores-querem-ia-que-monitore-outras-ias\/#primaryimage"},"image":{"@id":"https:\/\/homolog.fenati.org.br\/pesquisadores-querem-ia-que-monitore-outras-ias\/#primaryimage"},"thumbnailUrl":"https:\/\/homolog.fenati.org.br\/wp-content\/uploads\/2025\/06\/design-sem-nome-17-1.jpg","datePublished":"2025-06-06T14:38:07+00:00","dateModified":"2025-06-06T19:14:32+00:00","breadcrumb":{"@id":"https:\/\/homolog.fenati.org.br\/pesquisadores-querem-ia-que-monitore-outras-ias\/#breadcrumb"},"inLanguage":"en-US","potentialAction":[{"@type":"ReadAction","target":["https:\/\/homolog.fenati.org.br\/pesquisadores-querem-ia-que-monitore-outras-ias\/"]}]},{"@type":"ImageObject","inLanguage":"en-US","@id":"https:\/\/homolog.fenati.org.br\/pesquisadores-querem-ia-que-monitore-outras-ias\/#primaryimage","url":"https:\/\/homolog.fenati.org.br\/wp-content\/uploads\/2025\/06\/design-sem-nome-17-1.jpg","contentUrl":"https:\/\/homolog.fenati.org.br\/wp-content\/uploads\/2025\/06\/design-sem-nome-17-1.jpg","width":1200,"height":630,"caption":"Pesquisadores querem criar IA que monitore excessos de outras IAs"},{"@type":"BreadcrumbList","@id":"https:\/\/homolog.fenati.org.br\/pesquisadores-querem-ia-que-monitore-outras-ias\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"In\u00edcio","item":"https:\/\/homolog.fenati.org.br\/"},{"@type":"ListItem","position":2,"name":"Pesquisadores querem criar IA que monitore excessos de outras IAs"}]},{"@type":"WebSite","@id":"https:\/\/homolog.fenati.org.br\/#website","url":"https:\/\/homolog.fenati.org.br\/","name":"FEITTINF","description":"Federa\u00e7\u00e3o Nacional dos Trabalhadores em Tecnologia da\u00a0Informa\u00e7\u00e3o","publisher":{"@id":"https:\/\/homolog.fenati.org.br\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/homolog.fenati.org.br\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"en-US"},{"@type":"Organization","@id":"https:\/\/homolog.fenati.org.br\/#organization","name":"FEITTINF","url":"https:\/\/homolog.fenati.org.br\/","logo":{"@type":"ImageObject","inLanguage":"en-US","@id":"https:\/\/homolog.fenati.org.br\/#\/schema\/logo\/image\/","url":"https:\/\/homolog.fenati.org.br\/wp-content\/uploads\/2023\/08\/logo_300x50.png","contentUrl":"https:\/\/homolog.fenati.org.br\/wp-content\/uploads\/2023\/08\/logo_300x50.png","width":350,"height":50,"caption":"FEITTINF"},"image":{"@id":"https:\/\/homolog.fenati.org.br\/#\/schema\/logo\/image\/"},"sameAs":["https:\/\/www.facebook.com\/feittinf","https:\/\/x.com\/FederacaoTiBR","https:\/\/www.instagram.com\/feittinf\/"]},{"@type":"Person","@id":"https:\/\/homolog.fenati.org.br\/#\/schema\/person\/966badfad0bf2512a372e082dc1c783e","name":"Caio Simidzu","url":"https:\/\/homolog.fenati.org.br\/en\/author\/caio-simidzu\/"}]}},"_links":{"self":[{"href":"https:\/\/homolog.fenati.org.br\/en\/wp-json\/wp\/v2\/posts\/9466","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/homolog.fenati.org.br\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/homolog.fenati.org.br\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/homolog.fenati.org.br\/en\/wp-json\/wp\/v2\/users\/11"}],"replies":[{"embeddable":true,"href":"https:\/\/homolog.fenati.org.br\/en\/wp-json\/wp\/v2\/comments?post=9466"}],"version-history":[{"count":1,"href":"https:\/\/homolog.fenati.org.br\/en\/wp-json\/wp\/v2\/posts\/9466\/revisions"}],"predecessor-version":[{"id":9468,"href":"https:\/\/homolog.fenati.org.br\/en\/wp-json\/wp\/v2\/posts\/9466\/revisions\/9468"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/homolog.fenati.org.br\/en\/wp-json\/wp\/v2\/media\/9467"}],"wp:attachment":[{"href":"https:\/\/homolog.fenati.org.br\/en\/wp-json\/wp\/v2\/media?parent=9466"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/homolog.fenati.org.br\/en\/wp-json\/wp\/v2\/categories?post=9466"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/homolog.fenati.org.br\/en\/wp-json\/wp\/v2\/tags?post=9466"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}