Consegue imaginar como seria o som de um determinado local só de ver sua foto? Sim? Pois agora a inteligência artificial também consegue.
Consegue imaginar como seria o som de um determinado local só de ver sua foto? Sim? Pois agora a inteligência artificial também consegue.
O Imaginary Soundscape, um projeto nipônico, treinou uma IA para inserir sons ambientes em locais do Google Street View ou em uma imagem que você mesmo pode enviar. Usando vídeos para realizar o treinamento de duas redes neurais, o sistema passou a associar sons com imagens e cria de forma
autônoma uma atmosfera sonora para a imagem que estivermos visualizando.
Para experimentar basta acessar o site imaginarysoundscape.net e inserir o nome de um local ou um endereço ou mesmo subir o arquivo de uma foto que o sistema detecta se há um céu, pessoas, etc. Aí, com base nestas informações ele coloca o som de conversas (e até mesmo adequar o idioma ao local da cena), aviões passando, sons de trânsito de veículos, etc. Muito semelhante ao modo como os seres humanos imaginam a "trilha sonora" dos ambientes.
É uma ideia interessante mas que ainda está longe da perfeição. Ainda tem muito o que aperfeiçoar. Com poucos minutos de teste, por exemplo, percebi que há um excesso de efeitos sonoros como sirenes, motos barulhentas e sons de aviões. O som da irritante sirene talvez tenha sido inspirado em uma portiola vermelha de onde se guarda a mangueira de incêndio que figurava na fachada de um prédio na minha vizinhança.
Ao colocar um campus de um centro universitário logo rugia sons de motores de carros de corrida. Muito provavelmente da Fórmula 1. Isso porque surgia a imagem de uma "pista" coberta para pedestres. Essa tecnologia se mostra estar ainda naquele estágio que serve mais para dar razão aos céticos sobre as previsões sobre o que a IA vai nos proporcionar no futuro do que para nos dar uma mostra de sua "perfeição" sobrehumana.
Todavia, parece funcionar bem quando você opta por clicar em Random e viajar pelas sugestões da página. E para quem saber ver uma árvore ao examinar uma semente isso é o só o começo de uma evolução que trará soluções que farão automaticamente a sonoplastia de filmes inteiros, e não só a música, mas até mesmo a correta colocação de sons de golpes em uma sequência de luta, por exemplo.
Alguém pensou em desemprego de sonoplastas na indústria de produção audiovisual? 🙋 É esperar para conferir... Por ora, vamos aproveitar o que há de positivo e ver como está o estágio atual da tecnologia.
O Imaginary Soundscape, um projeto nipônico, treinou uma IA para inserir sons ambientes em locais do Google Street View ou em uma imagem que você mesmo pode enviar. Usando vídeos para realizar o treinamento de duas redes neurais, o sistema passou a associar sons com imagens e cria de forma
autônoma uma atmosfera sonora para a imagem que estivermos visualizando.
Para experimentar basta acessar o site imaginarysoundscape.net e inserir o nome de um local ou um endereço ou mesmo subir o arquivo de uma foto que o sistema detecta se há um céu, pessoas, etc. Aí, com base nestas informações ele coloca o som de conversas (e até mesmo adequar o idioma ao local da cena), aviões passando, sons de trânsito de veículos, etc. Muito semelhante ao modo como os seres humanos imaginam a "trilha sonora" dos ambientes.
Clique Retroceder Avançar Espaço / / F
É uma ideia interessante mas que ainda está longe da perfeição. Ainda tem muito o que aperfeiçoar. Com poucos minutos de teste, por exemplo, percebi que há um excesso de efeitos sonoros como sirenes, motos barulhentas e sons de aviões. O som da irritante sirene talvez tenha sido inspirado em uma portiola vermelha de onde se guarda a mangueira de incêndio que figurava na fachada de um prédio na minha vizinhança.
 |
| Imagem de um campus de centro acadêmico em Brasília (Fonte: Google Street View) |
Este trabalho baseia-se no recente desenvolvimento da técnica de recuperação de informações intermodais, como imagem-para-áudio, texto-imagem, usando aprendizagem profunda (deep learning). Com entradas de vídeo, o sistema foi treinado com dois modelos: um modelo de reconhecimento de imagem pré-treinado e bem estabelecido, processa os quadros, enquanto outra rede neural convolucional lê o áudio como imagens de espectrograma, evoluindo para que a distribuição de sua saída fosse o mais próximo possível da primeira.
Uma vez treinadas, as duas redes nos permitem recuperar o arquivo de som de melhor correspondência para uma cena, fora do nosso enorme conjunto de dados de som ambiental.
As paisagens sonoras geradas pela IA às vezes nos surpreendem ao atender nossa expectativa, mas ocasionalmente ignoram o contexto cultural e geográfico (o som das ondas em um campo gelado da Groenlândia, por exemplo). Essas diferenças e erros nos levam a contemplar como a imaginação funciona e quão férteis são os ambientes sonoros que nos cercam.
Ao externalizar nossos pensamentos sinestésicos, tentamos lançar luzes sobre o poder da imaginação que todos compartilhamos.
Trecho retirado e traduzido da sessão "Sobre" (About)
Todavia, parece funcionar bem quando você opta por clicar em Random e viajar pelas sugestões da página. E para quem saber ver uma árvore ao examinar uma semente isso é o só o começo de uma evolução que trará soluções que farão automaticamente a sonoplastia de filmes inteiros, e não só a música, mas até mesmo a correta colocação de sons de golpes em uma sequência de luta, por exemplo.Apresentado em outubro de 2018, o código do IS está disponível no github.
Fonte: WWWhatsnew [Visto no Brasil Acadêmico]
Fonte: WWWhatsnew [Visto no Brasil Acadêmico]
Comentários