Como a ética deve ser aplicada na ciência de dados

Houve um furor recente com o Facebook experimentando seus usuários para ver se eles podiam alterar as emoções do usuário e agora estão ok .

Embora eu não seja um cientista de dados profissional, li sobre ética em ciência de dados no livro 'Doing Data Science' de Cathy O'Neill e gostaria de saber se isso é algo que os profissionais são ensinados no nível acadêmico (eu esperaria) ou algo que é ignorado ou é pouco aplicado no mundo profissional. Especialmente para aqueles que acabaram fazendo ciência de dados acidentalmente .

Embora o artigo vinculado tenha abordado a integridade dos dados, o livro também discutiu a ética moral por trás da compreensão do impacto dos modelos de dados criados e o impacto desses modelos que podem ter efeitos adversos quando usados ​​de forma inadequada (às vezes inconscientemente) ou quando os modelos são imprecisos, produzindo novamente resultados adversos.

O artigo discute um código de prática e menciona o código de conduta da Data Science Association. Isso é algo que está sendo usado? A regra 7 é de particular interesse (citada em seu site):

(a) Uma pessoa que consulta um cientista de dados sobre a possibilidade de formar um relacionamento de cliente-cientista de dados com relação a um assunto é um cliente em potencial.

(b) Mesmo quando não houver relação entre o cliente e o cientista de dados, um cientista de dados que tenha aprendido informações de um cliente em potencial não deve usar ou revelar essas informações.

(c) Um cientista de dados sujeito ao parágrafo (b) não deve fornecer serviços profissionais de ciência de dados para um cliente com interesses materialmente adversos aos de um cliente em potencial no mesmo ou em um setor substancialmente relacionado, se o cientista de dados recebeu informações do cliente em potencial que poderia ser significativamente prejudicial para essa pessoa no assunto

Isso é praticado profissionalmente? Muitos usuários aceitam cegamente que obtemos algum serviço gratuito (e-mail, rede social, hospedagem de imagens, plataforma de blog etc.) e concordamos com um EULA para que os anúncios sejam enviados a nós.

Finalmente, como isso é regulado, eu frequentemente leio sobre os usuários estarem em conflito quando os termos de um serviço mudam, mas parece que exige alguma organização de liberdade, ação de classe ou um senador para reagir a essas coisas antes que algo aconteça.

Pela maneira como não estou fazendo nenhum julgamento aqui ou dizendo que todos os cientistas de dados se comportam assim, estou interessado no que é ensinado academicamente e praticado profissionalmente.

Eu acho que a ética na ciência de dados é importante. Existe uma diferença fundamental no uso de dados do usuário para melhorar sua experiência e exibir anúncios relevantes e no uso de dados do usuário para induzir as pessoas a clicarem em anúncios para obter lucro monetário. Pessoalmente, gosto de anúncios que me fornecem informações relevantes, como ofertas de itens que eu compraria de qualquer maneira. No entanto, me mostrar anúncios de perda de peso porque fui despejado é assustador e antiético. Como meu amigo Peter sempre diz, "não seja assustador com os dados".

Não parece haver nenhuma ética especial na ciência de dados - explorar a dor de outra pessoa para ganhar dinheiro está completamente errado. Então, está roubando suas informações para ganhar dinheiro. Não é como ser médico e decidir decidir empurrar o paciente para a cirurgia com uma chance externa de trabalhar quando é isso que eles querem, mas você sabe que o cônjuge e os filhos querem apenas aproveitar o tempo que eles poderiam ter juntos. Até agora, essas coisas parecem pouco ensinadas - mas, se alguma coisa é necessária, é útil reconhecer quando as pessoas estão sendo exploradas injustamente.