Alexa sugere desafio perigoso para criança de dez anos

Amazon faz atualização no assistente virtual após Alexa sugerir a uma menina de dez anos que  colocasse uma moeda em parte exposta de um plu...

Amazon faz atualização no assistente virtual após Alexa sugerir a uma menina de dez anos que  colocasse uma moeda em parte exposta de um plugue de tomada eletrizado (imagem meramente ilustrativa).

O caso é o seguinte, Kristin Livdahl escreveu no Twitter que Estava fazendo alguns desafios de exercícios físicos como ficar deitada ou rolar segurando um sapato com os pés passados por um professor no YouTube com sua filha de dez anos. Foi quando sua filha quis mais um desafio e pediu para a Alexa.

Então, a assistente virtual da Amazon sugeriu um “desafio” viral perigoso, o que chocou a mãe da criança, que denunciou o ocorrido nas redes sociais.

No domingo, Kristin Livdahl compartilhou uma captura de tela no Twitter com a mensagem que ela alega ter recebido como resposta da assistente virtual:

“Aqui está algo que encontrei na web. De acordo com ourcommunitynow.com: O desafio é simples: conecte um carregador de telefone na tomada pela metade e, em seguida, toque um penny [algo como uma moeda de um centavo] no pino exposto.”

E pelo que mostra a imagem compartilhada pela mãe ainda havia um sentido de urgência para a “tarefa” uma vez que já sugeria um tempo (20 minutos) para realizá-la.

O desafio, conhecido como “outlet challenge” (“desafio da tomada”), viralizou nas redes sociais, especialmente no Tik Tok, em janeiro. Autoridades americanas alertaram sobre o risco de incêndios e danos aos sistemas elétricos depois que três incidentes geraram preocupação, incluindo dois em escolas.

O desafio envolve o uso de parte de um carregador de telefone, uma tomada de parede e uma moeda para causar faíscas, segundo o marechal de bombeiros de Massachusetts Peter J. Ostroskey em uma carta alertando os educadores.

Em um tuíte, a mãe da garota contou que no momento do sugestão ela gritou:

“Não, Alexa, não!”.

Mas ela disse que sua filha era “esperta demais para fazer algo assim”.

Em 2020, bombeiros encontraram duas tomadas queimadas e um carregador de celular com uma moeda fundida nas pontas em uma escola em Plymouth.

“Você pode perder dedos, mãos, braços.”
Michael Clusker, responsável por um posto do Corpo de Bombeiros na cidade inglesa de Carlile ao jornal "The Press", de Yorkshire, em 2020.

O perfil de suporte da Amazon respondeu ao tweet de Kristin, pedindo para que ela entrasse em contato.

Desde que o viral foi identificado como perigoso, o TikTok baniu as pesquisas por ele. A Alexa usa o mecanismo de pesquisa Bing para todas as suas consultas de pesquisa, que seguem um padrão. 

Portanto, a mensagem provavelmente é automatizada, em vez de uma decisão consciente de qualquer pessoa que trabalhe na Amazon. 

A Amazon enviou um comunicado à BBC onde afirma já ter feito uma atualização na Alexa para evitar que a assistente virtual repetisse essa recomendação no futuro.

“A confiança do cliente é o centro de tudo que nós fazemos e a Alexa é pensada para passar informações precisas, relevantes e úteis aos nossos consumidores”.

“Assim que soubemos desse erro, nós tomamos uma rápida ação para consertá-lo.”

É previsível que algo assim venha a acontecer com esse sistema de coletar informações na internet de forma automática e, talvez, não haja ainda um nível de segurança aceitável para que a Alexa (e outros assistentes) sejam utilizados sem a supervisão dos pais.

Isso me remete ao filme Não Olhe Para Cima quando um personagem representando um magnata da indústria da tecnologia diz como o protagonista iria morrer, com base em seu fictício sistema de predição com IA, tão avançado, que às vezes nem mesmo seu proprietário saberia interpretar a resposta. Sei que é uma extrapolação, um exagero, mas ao me deparar com essa notícia sobre a recomendação Alexa um pensamento passou pela minha mente: “Desse jeito é fácil!"

#achufim

Fonte: BBC
Visto no Brasil Acadêmico