https://datatron.com/real-life-examples-of-discriminating-artificial-intelligence/ (COMPASS, Amazon, Healthcare)
https://gizmodo.com/crime-prediction-software-promised-to-be-free-of-biases-1848138977 Predpol
https://www.theregreview.org/2021/03/20/saturday-seminar-facing-bias-in-facial-recognition-technology/ vies em sistemas de reconhecimento facial.
Policiamento preditivo?
https://www1.folha.uol.com.br/tec/2021/08/reconhecimento-facial-cresce-no-brasil-entenda-como-isso-afeta-voce.shtml artigo da folha
Reconhecimento facial em onibus https://agenciabrasil.ebc.com.br/geral/noticia/2018-08/reconhecimento-facial-ajuda-combater-fraudes-no-transporte Mas há problemas? Ver abaixo
http://www.iea.usp.br/eventos/reconhecimento-facial-seguranca-publica Evento sobre isso
dados enviesados
objetivo nao é o mais correto e induz vies (PolPred - prisões (e não vitimas - mas talvez isso tambem nao funciona) - Helthcare - custo e nao necessidade).
https://christophm.github.io/interpretable-ml-book/
XAI como ferramenta para desenvolvimento https://theblue.ai/blog/lime-models-explanation/ (Husky vs wolf)
O que é uma explicação?
Explicação como texto legal
https://arxiv.org/abs/2112.05700 Fairness
https://dl.acm.org/doi/10.1145/3457607 Fairness & bias
Um entendimento super básico: O sistema deve ter a mesma acurácia para cada grupo de pessoas que achamos que devem ser distinguidos (grupos protegidos)
GDPR (europa) https://en.wikipedia.org/wiki/General_Data_Protection_Regulation
LGPD (Marco Civil da Internet) http://www.planalto.gov.br/ccivil_03/_Ato2015-2018/2018/Lei/L13709.htm
LGPD vs GDPR https://www.serpro.gov.br/lgpd/noticias/lgpd-versao-brasileira-gdpr-dados-pessoais
CCPA (apenas para a California mas com implicacoes para todo o EUA) https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=201720180AB375
sandbox de regulamentação https://youtu.be/loxGAhgpoFQ?t=4267
uma idéia (não me lembro da fonte): voce é o responsável legal pelo IA que vc compra (não o desenvolvedor). Da mesma forma que vc é responsável pelos seus funcionários. Assim compradores se empenhariam em buscar IAs sem vies e erros e só adotariam IA se realmente valesse a pena.
https://en.wikipedia.org/wiki/Right_to_explanation
https://dl.acm.org/doi/10.1145/3086512.3086513
https://www.weforum.org/reports/ai-procurement-in-a-box
abordagem da McKinsey Global Institute
qual a proporção das tarefas desta ocupação serão/são automatizáveis.
quanto tempo cada ocupação passa fazendo a tarefa
isto da uma aproximação do número de empregos-horas a serem perdidos,
nao há detalhes ou dados públicos
| EUA | 47 | Frey & Osborne 2013 |
| Brasil | 54 | IPEA 2019 (em 30 anos) |
| Brasil | 59 | Luna 2019 |
| Finlândia | 36 | Pajarinen e Rouvinen (2014) |
| Alemanha | 59 | Brzeski e Burk (2015) |
| Europa | 45 a 60 | Bowles (2014) |
| EUA | 9 | Arntz et all |
| OECD media | 9 | de 6 a 13% |
| EUA | 46 |
| China | 51 |
| Brasil | 50 |
https://www.zippia.com/advice/ai-job-loss-statistics/
Analise da McKinsley
em número de pessoas que perderão emprego
food preparation
retail salesperson
office clerks
stock clerks
bookkeeping
cashiers
administrative assistances
food servers
cooks
customer service representative
Principalmente cap 10 e conclusão.
https://youtu.be/-xh8fgEntYo?t=2596 Some more news - home cameras
https://www.youtube.com/watch?v=wqn3gR1WTcA John Oliver - data brokers
https://www.youtube.com/watch?v=Vo6K-bPh39M Apresentacao curta da autora
https://www.theguardian.com/books/2019/feb/02/age-of-surveillance-capitalism-shoshana-zuboff-review guardian ok
https://thebaffler.com/latest/capitalisms-new-clothes-morozov super longo (e critico)
https://blaynehaggart.com/2019/02/15/evaluating-scholarship-or-why-i-wont-be-teaching-shoshana-zuboffs-the-age-of-surveillance-capitalism/ review critico (
o sistema sabe que vc quer um tenis novo e apresenta uma propaganda da Nike
o sistema sabe (s.s.q) que vc tem um cachorro velho de pernas curtas e apresenta uma propaganda sobre rampas p/ cachorros https://www.npr.org/2022/03/17/1087425495/tech-giants-and-tiny-dogs
o s.s.q eu gosto da cor vermelha e gera um propaganda de tenis com tons vermelhos.
o s.s.q eu quero um tenis e que acredito em tratamentos naturais, e ele apresenta/gera uma propaganda de Nike que tambem “ajuda a balancear seus campos magneticos e energeticos” - e isso é falso.
o s.s.q eu estou com fome, e me apresenta um propaganda de uma lanchonete perto de onde vc esta. E se eu estiver fazendo regime?
o s.s.q. eu estou preocupado com mudancas climaticas e ele gera uma propaganda do candidato X que diz que ele/ela tambem esta preocupado com mudanças climáticas. E que o candidato Y é a favor de mudanças climáticas.
o s.s.q eu acho o candidato X o menos pior, mas estou descontente em votar nela. O sistema me apresenta propaganda/noticias que o candidato X é ruim. vs o sistema me apresenta propagandas que o candidato X é bom.
o s.s.q eu sou uma crianca e apresenta uma propaganda de um brinquedo do meu superheroi favorito que parece indicar que o brinquedo se meche sozinho.
o s.s.q eu sou um alcolotra em recuperaçao e me apresenta uma propaganda de um bar perto de onde eu estou.
o s.s.q eu sou um comprador compulsivo e me apresenta propaganda de barganhas. o s.s.q eu compro varias coisas nos seguintes horarios… e apresenta propaganda de barganhas.
https://www.nature.com/articles/nature11421 A 61-million-person experiment in social influence and political mobilization
https://www.pnas.org/doi/pdf/10.1073/pnas.1418680112 Facebook knows you better than your spouse
https://www.pnas.org/content/114/48/12714/ aspectos psicológicos e propaganda.
pode facebook e google modificar uma eleição? https://en.wikipedia.org/wiki/Cambridge_Analytica
campanhas de desinformação? https://cset.georgetown.edu/staff/katerina-sedova/?utm_source=pocket_mylist
valor de mercado: https://www.statista.com/statistics/263264/top-companies-in-the-world-by-market-capitalization/
faturamento : https://en.wikipedia.org/wiki/List_of_largest_companies_by_revenue https://fortune.com/global500/2019/search/?revenues=desc
empregados https://en.wikipedia.org/wiki/List_of_largest_employers https://fortune.com/global500/2021/search/?employees=desc
https://www.forbes.com/billionaires/
Empresas de tecnologia tem alto valor de mercado, mas poucos empregados (a não ser a Amazon). Relativo baixo faturamento, a não ser a Apple e Amazon.
Fundadores estão entre os maiores bilionários.
https://youtu.be/lIRzIoFDJgI?t=10281 Palestra na Unicamp = sim
tambem https://youtu.be/JCwIwCK8jpI?t=3786
nao = paradoxo da produtividade? https://youtu.be/JCwIwCK8jpI?t=2254 (tem uma versão p/ os anos 80 - computadores em geral - e uma para 2010)
Talvez não há aumento de produtividade mas sim deslocamento de receitas (na palestra acima)
https://en.wikipedia.org/wiki/Superintelligence
principalmente cap 5 e 6.
https://en.wikipedia.org/wiki/Human_Compatible
https://en.wikipedia.org/wiki/Life_3.0
https://www.youtube.com/c/RobertMilesAI/videos
https://www.alignmentforum.org
AGI: Artificial general intelligence. Uma IA pelo menos tao boa como humanos em quase tudo.
Superinteligencia, Singularity ou intelligence explosion. Uma human-level AGI pode se tornar superinteligente só melhorando o hardware(?)
orthogonality: inteligencia nao tem nada a ver com “bons objetivos” ou objetivos. Um SI pode ter objetivos super bobos
instrumental convergence Nao importa os objetivos finais, um SI tera objetivos intermediarios e “permanentes” como auto-preservação, aumento de eficiencia, aquisição de recursos, impedir modificação de seus objetivos, etc
paper clip maximizer Um SI cujo objetivo é fazer clips e destroi o mundo por causa do objetivo instrumental de obter materias para fazer paper clips.
alinhamento: como definir objetivos da SI para que nem os objetivos primários, nem os instrumentais causem danos. Boxed AI, Oracle AI, Iterated amplification, value learning (aprenda meus valores sem que eu saiba deles explicitamente) etc https://www.lesswrong.com/tag/ai
AI control problem.
The problem of perverse instantiation: um SI cujo objetivo é maximizar a felicidade humana decide implantar chips nos centros de prazer de cerebros humanos.
centros de pesquisa interessados em AI safety (ver acima)
robos - não é um problema central. Acesso a internet pode ser um problema maior
malevolencia - nao é um problema. O problema são os missalignment e os objetivos instrumentais.
sentiência - não é um problema. Quase nenhum argumento negativo sobre SI se baseia na SI ter um eu. Mas argumentos positivos parecem ser basear em sentiência (Life 3.0)
=