{"id":1060,"date":"2022-05-23T14:11:07","date_gmt":"2022-05-23T17:11:07","guid":{"rendered":"https:\/\/ufvinteligenciaartificial.com.br\/?p=1060"},"modified":"2022-05-23T14:11:08","modified_gmt":"2022-05-23T17:11:08","slug":"ia-consegue-distinguir-etnias-a-partir-de-raio-x-e-cientistas-nao-sabem-por-que","status":"publish","type":"post","link":"https:\/\/valentecriacoes.com.br\/ufvinteligenciaartificial\/ia-consegue-distinguir-etnias-a-partir-de-raio-x-e-cientistas-nao-sabem-por-que\/","title":{"rendered":"IA consegue distinguir etnias a partir de raio-x e cientistas n\u00e3o sabem por qu\u00ea"},"content":{"rendered":"\n

Uma intelig\u00eancia artificial provou conseguir diferenciar etnia com base em apenas imagens de raios-X e tomografia computadorizada, nas quais n\u00e3o h\u00e1 diferen\u00e7a identific\u00e1vel, nesse aspecto, para especialistas humanos. Como ela faz isso? N\u00e3o sabemos, e os cientistas consideram isso preocupante. A precis\u00e3o na identifica\u00e7\u00e3o da IA foi de 90%, considerada bastante alta, e a habilidade tem sido estudada desde ent\u00e3o.<\/p>\n\n\n\n

A ocorr\u00eancia foi descrita por pesquisadores do Massachussets Institute of Technology (MIT) e publicada na revista cient\u00edfica\u00a0Lancet Digital Health<\/em>\u00a0na quarta-feira da semana passada (11). Marzyeh Ghassemi, professora assistente de engenharia el\u00e9trica e ci\u00eancias da computa\u00e7\u00e3o e co-autora do paper, disse ter pensado que se tratava de um engano quando observou os resultados pela primeira vez \u2014 ou que os alunos estavam loucos, brinca ela.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Intelig\u00eancia demais?<\/strong><\/p>\n\n\n\n

Para testar a habilidade da intelig\u00eancia artificial no reconhecimento de imagens, um modelo de aprendizado profundo (deep learning)<\/em> foi alimentado com imagens de tomografia computadorizada e raios-X de v\u00e1rias partes do corpo, e de grupos variados de pessoas. Cada imagem tinha a etnia da pessoa anotada.<\/p>\n\n\n\n

Ap\u00f3s a remo\u00e7\u00e3o da identifica\u00e7\u00e3o racial, junto a outras caracter\u00edsticas que poderiam ajudar na identifica\u00e7\u00e3o \u2014 como cor de pele e de cabelo \u2014, a IA foi posta para identificar a etnia do indiv\u00edduo escaneado. A precis\u00e3o de 90% foi o resultado, para todas as \u00e1reas do corpo e sem caracter\u00edsticas de identifica\u00e7\u00e3o.<\/p>\n\n\n\n

Co-variantes, como \u00edndice de massa corporal (IMC) ou densidade dos seios, que poderiam sugerir uma etnia ao inv\u00e9s de outra, tamb\u00e9m, foram removidas, para garantir que n\u00e3o houvesse engano nos resultados, j\u00e1 que suspeitou que a IA pudesse estar usando dados estat\u00edsticos como esses para enganar o sistema. Mesmo com pessoas com tipos de corpo e IMC semelhantes, o resultado continuava bem alto.<\/p>\n\n\n\n

A quest\u00e3o principal \u00e9 que os pesquisadores n\u00e3o sabem como \u00e9 poss\u00edvel uma identifica\u00e7\u00e3o t\u00e3o precisa em condi\u00e7\u00f5es t\u00e3o complicadas. Em outros estudos, a IA conseguiu at\u00e9 mesmo identificar caracter\u00edsticas pessoas em imagens muito corrompidas ou modificadas, e, dessa vez, sem co-vari\u00e1veis.<\/p>\n\n\n\n

Uma hip\u00f3tese \u00e9 que a m\u00e1quina possa estar identificando varia\u00e7\u00f5es de melanina que n\u00e3o conseguimos notar, mas que apare\u00e7am nos exames de raios-X e tomografias computadorizadas, mas isso ainda est\u00e1 sendo investigado. A preocupa\u00e7\u00e3o dos cientistas \u00e9 em rela\u00e7\u00e3o ao uso de IA em hospitais e poss\u00edveis rea\u00e7\u00f5es a diferentes etnias, o que j\u00e1 aconteceu em situa\u00e7\u00f5es parecidas.<\/p>\n\n\n\n

Segundo os pesquisadores, \u00e9 melhor n\u00e3o trazer algoritmos aos hospitais e cl\u00ednicas sem entender como eles funcionam realmente, garantindo que n\u00e3o fa\u00e7am decis\u00f5es racistas ou sexistas \u2014 o que, vale lembrar, vem dos vieses que n\u00f3s mesmos, seres humanos, acabamos inserindo neles at\u00e9 mesmo sem perceber.<\/p>\n","protected":false},"excerpt":{"rendered":"

Uma intelig\u00eancia artificial provou conseguir diferenciar etnia com base em apenas imagens de raios-X e tomografia computadorizada, nas quais n\u00e3o h\u00e1 diferen\u00e7a identific\u00e1vel, nesse aspecto, para especialistas humanos. Como ela faz isso? N\u00e3o sabemos, e os cientistas consideram isso preocupante. A precis\u00e3o na identifica\u00e7\u00e3o da IA foi de 90%, considerada bastante alta, e a habilidade […]<\/p>\n","protected":false},"author":1,"featured_media":1061,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-1060","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"views":168,"_links":{"self":[{"href":"https:\/\/valentecriacoes.com.br\/ufvinteligenciaartificial\/wp-json\/wp\/v2\/posts\/1060","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/valentecriacoes.com.br\/ufvinteligenciaartificial\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/valentecriacoes.com.br\/ufvinteligenciaartificial\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/valentecriacoes.com.br\/ufvinteligenciaartificial\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/valentecriacoes.com.br\/ufvinteligenciaartificial\/wp-json\/wp\/v2\/comments?post=1060"}],"version-history":[{"count":1,"href":"https:\/\/valentecriacoes.com.br\/ufvinteligenciaartificial\/wp-json\/wp\/v2\/posts\/1060\/revisions"}],"predecessor-version":[{"id":1063,"href":"https:\/\/valentecriacoes.com.br\/ufvinteligenciaartificial\/wp-json\/wp\/v2\/posts\/1060\/revisions\/1063"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/valentecriacoes.com.br\/ufvinteligenciaartificial\/wp-json\/wp\/v2\/media\/1061"}],"wp:attachment":[{"href":"https:\/\/valentecriacoes.com.br\/ufvinteligenciaartificial\/wp-json\/wp\/v2\/media?parent=1060"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/valentecriacoes.com.br\/ufvinteligenciaartificial\/wp-json\/wp\/v2\/categories?post=1060"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/valentecriacoes.com.br\/ufvinteligenciaartificial\/wp-json\/wp\/v2\/tags?post=1060"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}