Filtro de palavrões para um bate-papo com MMO

Estamos desenvolvendo um MMO usando o Smartfox Server. O público-alvo são crianças de 7 a 12 anos.

Há uma opção de bate-papo global neste MMO.
Tudo o que o usuário digita em uma caixa de texto é exibido ao lado do avatar do usuário depois que ele pressiona enter.

Gostaríamos de filtrar linguagem / palavrões abusivos deste bate-papo.
Poderíamos capturar o bate-papo e ler o texto. O problema é obter a lista de palavrões em si.

Nossas perguntas são

1. Onde alguém obterá uma lista exaustiva de todas as palavrões?
2. Que método é adotado em um cenário semelhante para filtrá-los?

Não.

Os filtros não funcionam. Pelo menos, apenas os filtros não funcionam. Listas de permissões, listas negras, não importa. Nenhum deles jamais impedirá que as crianças se assediem. A única maneira de fazer isso funcionar seria não filtrar o bate-papo, mas fornecer grandes blocos de construção para sentenças. Por exemplo, uma criança pode selecionar "Deseja ..." e as opções "ir para ..." e "trocar ..." serão exibidas. Selecionar "ir para ..." traria uma lista de lugares no jogo.

A Disney adotou esse método para o MMO "Toontown", após o teste de 14 anos da whitelist decidir "enfiar [sua] girafa de pescoço longo no seu fofo coelho branco". Simplificando, você não pode colocar na lista negra ou na lista de permissões palavras suficientes para evitar abusos.

Dito isso, se eu estivesse projetando o MMO de uma criança, na verdade implementaria um filtro rigoroso de lista negra, mas apenas como uma segunda linha de defesa. Sua primeira linha de defesa deve sempre ser moderadores e a capacidade de denunciar abusos. Eu ponderaria as palavras da lista negra, com cada usuário obtendo uma pontuação secreta de quão profana está tentando ser.

As chances são de que qualquer usuário que tente burlar seu filtro o acionará primeiro. As palavrões mais óbvias (em oposição às obscuras ou desatualizadas) ou tentativas mais repetidas de palavrões as colocam em uma lista de observação de moderadores ou em algum tipo de lista de proibição . Dessa forma, os moderadores podem se concentrar nos usuários que parecem estar tentando assediar outras pessoas, em vez de perder tempo lendo os comentários de crianças ainda inocentes.

Em resposta a pessoas que dizem não fornecer o filtro, eu argumentaria que você precisa fornecer um filtro, por nenhum outro motivo, a fim de cobrir sua própria bunda em relação aos pais do público-alvo. Apenas verifique se ele pode ser desativado pelo usuário. Ao implementar um filtro de palavrões (embora imperfeito e totalmente opcional), você pode dizer que fez tudo o que se esperava para proteger as sensibilidades do seu público mais jovem.

Ao tornar possível a desativação, você desencoraja os usuários de tentar contorná-la usando pontuação ou substituição inteligente, pois as pessoas que preferem esse tipo de idioma desativam imediatamente o filtro em seus próprios computadores e há muito esquecem que um filtro existe. .

Com esse entendimento, não se preocupe muito com a implementação. Ele não precisa ser infalível (o que é bom, porque não pode ser infalível), mas deve ser relativamente completo e o menos intrusivo possível. Ou seja, você não deve garantir que não cometa o " erro clutético ".

A implementação pode ser extremamente simples - obtenha uma lista de palavras e substitua as palavras encontradas na lista por asteriscos ou algo semelhante. Melhor procurar apenas palavras inteiras também.

Quanto a uma lista de palavras, é fácil: http://www.google.com/search?q=profanity+word+list

Lembre-se de que não precisa ser abrangente, apenas deve representar um valente esforço de sua parte para proteger as crianças.

Eu tentaria implementar uma solução que permitisse uma lista negra e uma lista branca, onde você poderia adicionar 'cunt' à lista negra e 'scunthorpe' à lista branca, por exemplo.

Eu não acredito que você poderia sempre implementar uma solução à prova de falhas, então eu tentar obter a maioria das palavras "populares" no seu dicionário, e torná-lo tão fácil como possível adicionar novas palavras para as listas.

A razão para isso é que os idiomas, especialmente o inglês, evoluem constantemente e algo que é inofensivo há décadas pode se tornar ofensivo no contexto certo.

Tente obter o máximo de palavras possível e a partir daí, tenha tempos de reação rápidos quando as pessoas reclamarem e mostrarem que isso geralmente é uma preocupação e duvido que você tenha algum problema.

Seria uma boa idéia saber exatamente quais são as diretrizes para a censura nos EUA: MBNL! (eu não sou advogado!)

Como comentei, filtrar todas as palavras ofensivas é realmente difícil - mas você pode mudar isso e usar uma lista de permissões de palavras permitidas . Ao fazer uma pesquisa no Google, parece bastante comum o jogo infantil limitar o que eles podem digitar em uma lista. Por exemplo, o Lego Universe usa uma lista de desbloqueio.

Veja também: Lista de permissões para bate-papo no jogo . E observe que as listas de permissões podem ser contornadas . Não há solução garantida.

Considerando que é para crianças pequenas, a ortografia incorreta pode ser um problema - dependendo da interface do cliente, você pode considerar o preenchimento automático de palavras . Quando os jogadores começarem a digitar as letras, ofereça uma lista de palavras possíveis e deixe-as selecionar a correta.

Há uma resposta dos programadores descrevendo um sistema para a criação de um filtro de palavrões. Ele não explica como ele realmente o construiu em grandes detalhes, mas deve ser suficiente para ter uma idéia para implementação.

Este é um problema melhor resolvido por humanos e design social, em vez de código.

Sua melhor fonte para uma lista exaustiva é um humano vivo que está presente no jogo e monitora o fluxo de bate-papo. Coloque as pessoas no seu jogo e deixe que elas sejam seu melhor filtro.

Passe algum tempo analisando as idéias e filosofias de Lane Merrifield por trás do Club Penguin e sobre a prestação de serviços. Aqui estão dois artigos de sua apresentação no Austin GDC em 2008. Eu vi e lembro de ficar impressionado com seu estilo de resolver problemas humanos com humanos e não com código.

http://gamasutra.com/php-bin/news_index.php?story=20234

http://www.raphkoster.com/2008/09/15/agdc08-lane-merrifield-at-their-service/

Especificamente, porque seu jogo é voltado para crianças, é mais do que apenas filtros de palavrões que você precisará pensar. Você precisará se preocupar com pessoas que se apresentam como crianças que podem ou não ter motivos ruins. Você precisará garantir aos pais que seus filhos estão seguros. Você precisará garantir às crianças que elas também são seguras.

Outra vantagem para os humanos é que eles entenderão o contexto. Você não quer um garoto dizendo: "Minha mãe tem câncer de mama" e sendo chutado.

Solução simples para o problema:

1. Remova todos os espaços e pontuação da sua entrada.
2. Lista negra de tudo no Urban Dictionary .
3. Lista negra de todos os homofones, etc.
4. Coloque na lista negra tudo o que poderia ser usado como eufamismo.
5. Escreva seu software para entender o conteúdo, a intenção e o tom do que resta.
6. Jogue fora o jogo e vá ao mercado com criação sensível e onisciente da etapa 5.

Alguns MMOs para crianças simplesmente substituem o bate-papo por uma lista predefinida de emotes e frases e simplesmente não permitem o bate-papo de forma livre. Talvez o jogo possa ser projetado para acomodar isso.