quarta-feira, 29 de novembro de 2017

A IA do Facebook sabe como procurar usuários suicidas

Mark Zuckerberg anunciou ontem que o Faceboook estava implantando uma IA aprimorada para verificar postagens com sinais de pensamentos suicidas. Pode ser uma invasão de privacidade...

fonte: The Next Web
O novo sistema, que não depende dos usuários para marcar ou relatar conteúdo, está configurado para lançamento em todo o mundo com exceção de países da UE, devido as restrições.

Os novos algoritmos da rede social usam reconhecimento de padrões para pesquisar posts e comentários com palavras-chave. Se a IA reconhecer motivo de preocupação, quando os comentarios de usuários que perguntam sobre o cartaz original se estão bem ou se precisam de ajuda, vai enviar as informações para um funcionário do Facebook para revisão.


Se a pessoa que revisar o relatório determinar que a intervenção é necessária, eles têm a opção de alertar os primeiros-atendentes que podem entrar em contato com o indivíduo ou se comunicar com a família e os amigos de uma pessoa em risco. Esses funcionários, presumivelmente, fazem parte da iniciativa da Zuckerberg de adicionar 3.000 trabalhadores dedicados com a finalidade de revisar o conteúdo.

O CEO em uma publicação no início deste ano disse: "Se vamos construir uma comunidade segura, precisamos responder rapidamente". Ele também apontou que a empresa estava trabalhando na construção de um método mais rápido para encontrar e relatar comportamento suicida na plataforma .

Embora os detalhes sobre as mudanças nos algoritmos permaneçam escassos, resultou em mais de 100 intervenções entre os primeiros atendentes e indivíduos potencialmente suicidas, de acordo com o post de Zuckerberg. E se mesmo uma vida única fosse salva, os engenheiros que construíram a IA deveriam ser elogiados.

De acordo com Zuckerberg:

"No futuro, a IAserá capaz de entender mais as sutis nuances da linguagem e também poderá identificar diferentes questões além do suicídio, incluindo rapidamente a detecção de mais tipos de bullying e ódio."

Há, é claro, algumas preocupações com a privacidade. Muitas pessoas podem não estar cientes de que a IA está usando reconhecimento de padrões para determinar o tipo de comportamento que exibiram nas mídias sociais. Além disso, não recebemos garantias sobre a medida em que o Facebook pretende aplicar o reconhecimento de padrões às nossas comunicações na plataforma.

No entanto, se a rede social aproveitar com sucesso a AI para salvar a vida das pessoas, quer estejam tentando transmitir ao vivo a sua morte ou a darem atualizações de status incômodas, valerá a pena ter nossas comunicações públicas já examinadas por computadores curiosos.

A empresa continua trabalhando em direção a um futuro onde grita por ajuda, em mídias sociais, pelo menos, nunca fica inaudito. Existem mais de dois bilhões de pessoas no Facebook e simplesmente não é viável esperar que nenhum número de funcionários os monitore, nem devem.

Computadores, por outro lado, são perfeitos para a tarefa. Uma IA nunca vai se cansar ou ficar sobrecarregada com a dureza árdua de seu trabalho. Simplesmente vai continuar a fazer o que os algoritmos em sua cabeça dizem.

E, neste caso, se pudermos dissipar o terror orwelliano por alguns instantes, é reconfortante saber que as máquinas estão sendo programadas para procurar pessoas em necessidade.

O suicídio é a segunda principal causa de morte para os americanos com menos de 44 anos e responsável por quase 50 mil vidas perdidas a cada ano nos EUA. A IA do Facebook não pode resolver o problema, mas é outra ferramenta na luta.

Todos já sabem qual é a minha opinião sobre o suicídio mas nunca escrevi aqui as minhas três tentativas mal-sucedidas no passado, e eu em especial, não preciso que ninguém fique me alertando sobre algo com que convivo na pele. Eu acredito que o suicídio é algo pessoal e intimo mas é só a minha opinião, é o que acredito. Esse novo recurso é uma verdadeira invasão de privacidade.

fonte: The Next Web

Artigos recentes

Linkem me:

Related Posts with Thumbnails
Google