Por que um metaverso seguro é obrigatório e como construir mundos virtuais acolhedores

Se o assédio em mundos virtuais é algo parecido com o que as pessoas têm que tolerar agora, ninguém vai querer ficar nesses espaços por muito tempo. Tiffany Xingyu Wang, diretora de estratégia e marketing da Spectrum Labs, prevê que o assédio e os ataques pessoais que 41% dos usuários de internet dos EUA sofreram online piorarão nos mundos virtuais. Isso inclui tudo, desde xingamentos e constrangimento proposital até ameaças físicas e perseguição.

“O metaverso é imersivo e multissensorial, o que torna o impacto muito maior”, disse ela. “O tempo de espera para a toxicidade é muito menor.”

VEJA: Glossário rápido: Metaverse (TechRepublic )

Wang acha que pode ser tarde demais para as plataformas de mídia social legadas resolverem o problema do assédio online. Ela vê o crescente número de mundos virtuais como uma chance para a indústria de tecnologia acertar desta vez. As empresas que constroem comunidades seguras e responsáveis ​​terão uma vantagem competitiva no metaverso.

“As empresas podem começar com a segurança desde o design e usar isso como um diferencial e atrair pessoas dessa maneira”, disse ela. “Novas plataformas vencerão porque fazem essas coisas muito bem.”

Além de proteger os residentes do metaverso contra roubos e golpes financeiros, também deve haver proteções básicas de segurança pessoal.

Evitar a repetição dos problemas da Web 2.0 significa desenvolver um código de conduta compartilhado que inclua as consequências da violação dessas regras. A Spectrum ajuda as empresas a construir infraestrutura de IA para estabelecer confiança e segurança em sites em vários setores, incluindo mídia social, namoro, jogos, comércio eletrônico e edtech. Os clientes usam as ferramentas de moderação de conteúdo da empresa para identificar discurso de ódio, racismo, material de abuso sexual infantil e outros conteúdos que violam os termos de acordos de serviço.

Wang disse que as políticas comunitárias são mais do que uma apólice de seguro ou um centro de custo inevitável.

“Pode ser a razão pela qual as pessoas vêm à sua comunidade, o que pode reduzir o custo de aquisição de clientes e aumentar a retenção”, disse ela. “Há um caso de negócios para confiança e segurança.”

Como desenvolver políticas comunitárias

Qualquer corporação, indivíduo ou organização que istre uma comunidade imersiva online terá que priorizar a elaboração de políticas sólidas e a aplicação dessas regras de comportamento, de acordo com Wang. A chave é fazer bem as duas tarefas.

“Muitas vezes, quando vemos escândalos, o problema é que as empresas têm políticas, mas não as aplicam”, disse ela.

A Trust & Safety Professional Association é uma organização sem fins lucrativos para profissionais que desenvolvem e aplicam princípios e políticas para comportamento e conteúdo aceitáveis ​​online.

Wang disse que as empresas de jogos e sociais são pioneiras nesse espaço, mas que a pandemia acelerou o interesse no trabalho que a Trust and Safety Foundation está realizando.

Outra chave para o sucesso é escrever um código de conduta projetado para o grupo que usa a plataforma. Por exemplo, as políticas para um site de namoro LGBTQ seriam muito diferentes para um site de jogos projetado para crianças de 9 a 13 anos.

“As empresas que fazem isso bem contratam uma equipe de políticas para trabalhar com marketing e comunicação para escrever uma política que reflita a identidade da marca”, disse ela.

As políticas comunitárias também orientam as consequências apropriadas para as pessoas que violam essas políticas, disse Wang.

“Você não pode criar regras de fiscalização sem conhecer o código de conduta fundamental”, disse ela.

VEJA: Qualcomm e Lenovo lançam nova parceria de realidade aumentada para expandir o ecossistema de desenvolvedores​

O Spectrum incorpora regras em regras de moderação aplicadas e automatizadas por inteligência artificial. Essa abordagem significa que os moderadores têm menos exposição a conteúdo violento e ofensivo.

O outro componente vital na construção de uma comunidade online segura é a transparência, disse Wang.

“Se você agir, se você suspender um usuário ou tirar uma pessoa da plataforma, você precisa vincular isso à política”, disse ela.

Wang recomendou um novo white paper do Grindr como um bom exemplo de como desenvolver estratégias de moderação de conteúdo. Três líderes de confiança e segurança do Grindr escreveram o artigo “Melhores práticas para moderação de conteúdo com inclusão de gênero”, que examina várias decisões de moderação de conteúdo e os vários fatores a serem considerados ao definir políticas.

Os especialistas em confiança e segurança Vanity Brown e Lily Galib, e Alice Hunsberger, diretora sênior de experiência do cliente do Grindr, explicam como elaborar políticas abrangentes, revisar as melhores práticas para moderação inclusiva e oferecer recursos para moderadores e usuários.

Quem define as regras nos mundos virtuais?

Essa necessidade de um código de conduta compartilhado está relacionada ao problema de segurança: quem manda aqui? Como descreve Ahmer Inam, diretor de IA da Pactera Edge, parte do desafio é que não existe uma entidade clara de aplicação das regras do metaverso.

“Os mundos virtuais são completamente sem fronteiras, então quais leis se aplicam?” ele disse.

Ninguém quer estender as tendências autoritárias de muitos governos a qualquer mundo multiverso. No entanto, se roubos, golpes e criminalidade geral estiverem por toda parte nesses locais virtuais, isso também desencorajará uma adoção mais ampla.

Inam acha que uma parceria entre entidades públicas e privadas deve desenvolver um conjunto compartilhado de regras sobre qualquer mundo metaverso.

Ele vê potencial em aprender com as preocupações sobre a energia nuclear que levaram a tratados internacionais para governar a tecnologia com confiabilidade como um princípio organizador central.

VEJA: Folha de dicas do Metaverse: Tudo o que você precisa saber (PDF grátis)

Inam prevê que, uma vez que as indústrias regulamentadas comecem a construir experiências de metaverso, as regulamentações virão mais rapidamente. Ele também acha que as cartas éticas de IA podem ser expandidas para cobrir o metaverso, mas isso exigirá uma parceria entre a indústria e o governo.

“O crescimento do metaverso pode acelerar não apenas a tecnologia, mas uma declaração individual de direitos e privacidade por causa do potencial de dano que existe”, disse ele. “Como tecnólogo, estou animado com o que está por vir, mas como cidadão de nossa sociedade, estou um pouco preocupado.”

A pandemia mostrou que a conectividade com a internet é tão importante quanto a eletricidade e levou o governo a investir para expandir o o a comunidades sem o de alta velocidade. James Arlen, CISO da empresa de banco de dados como serviço Aiven, acha que algo semelhante acontecerá com as identidades digitais.

“As identidades devem ser federadas fora de uma empresa digital com fins lucrativos”, disse ele.