caros Flávio e Hermógenes: esta discussão é interessantíssima, e nada "off topic". Estou lendo "Weapons of Math Destruction" de Cathy O'Neil, se me permitem a sugestão, e acho que ela coloca muito bem a questão, e quase funda uma "ética de máquina". Aqui um review:
https://blogs.scientificamerican.com/roots-of-unity/review-weapons-of-math-destruction/ Abraços, Walter Em 14 de janeiro de 2017 19:40, Hermógenes Oliveira <hermogenes.olive...@student.uni-tuebingen.de> escreveu: > Flávio Luis de Mello <flavioluis.me...@gmail.com> escreveu: > >> Saiu um statement da ACM >> (http://www.acm.org/media-center/2017/january/usacm-statement-on-algorithmic-accountability) >> tratando da preocupação deles com eventuais resultados tendenciosos de >> algoritmos voltados para a tomada de decisão. >> >> Penso que a IA é uma das áreas contempladas por essa preocupação. Além >> disso, ainda que a preocupação seja válida, me pergunto se realmente é >> viável auditar o processo neste contexto. Gerar dados ou informações >> tendenciosas é uma característica do algoritmo ou o reflexo daqueles >> que produzem o algoritmo? Entendo que é o segundo. > > Eu entendo que é o primeiro. > > Note que as tendências e preconceitos dos programadores, ou da > organização que desenvolve o algorítimo, não se refletem necessariamente > no algorítimo (se este fosse o caso, obter um algorítimo não tendencioso > seria praticamente um milagre). Como o problema está nos resultados > tendenciosos dos *algorítimos*, então são estes que devem passar pelo > crivo. > > Ademais, com o emprego crescente de métodos algorítmicos mais opacos, > como redes neurais artificiais em combinação com aprendizado de máquina, > resultados tendenciosos podem surgir a despeito das intenções > (conscientes ou não) dos desenvolvedores, pois, como observa bem o > documento publicado pela ACM, eles podem ser causados pelo dados que > alimentam o algorítimo. > > Por exemplo, se um algorítimo, usado para alguma tomada de decisão, > digamos, a ordenação dos resultados de alguma busca, é alimentado com > dados coletados dos próprios usuários, pode-se esperar que tendências e > preconceitos dos usuários se reflitam nos resultados do algorítimo. > Dependendo do contexto, algo assim pode ser bastante problemático. > > -- > Hermógenes Oliveira > > "There are two ways of constructing a software design: One way is to > make it so simple that there are obviously no deficiencies and the other > way is to make it so complicated that there are no obvious > deficiencies." C. A. R. Hoare ----------------------------------------------- Walter Carnielli Centre for Logic, Epistemology and the History of Science and Department of Philosophy State University of Campinas –UNICAMP 13083-859 Campinas -SP, Brazil Phone: (+55) (19) 3521-6517 Institutional e-mail: walter.carnie...@cle.unicamp.br Website: http://www.cle.unicamp.br/prof/carnielli -- Você está recebendo esta mensagem porque se inscreveu no grupo "LOGICA-L" dos Grupos do Google. Para cancelar inscrição nesse grupo e parar de receber e-mails dele, envie um e-mail para logica-l+unsubscr...@dimap.ufrn.br. Para postar neste grupo, envie um e-mail para logica-l@dimap.ufrn.br. Visite este grupo em https://groups.google.com/a/dimap.ufrn.br/group/logica-l/. Para ver esta discussão na web, acesse https://groups.google.com/a/dimap.ufrn.br/d/msgid/logica-l/CA%2Bob58OPd_LWNxZvgzD-urqUwSaHMnDdKi0tc2JRMyS9qXOsVw%40mail.gmail.com.
