Código Google: Exemplos de código completos para tradução de máquina com atenção, legenda de imagens, geração de texto e DCGAN implementados com tf.keras e execução antecipada

Exemplos de código completos para tradução de máquina com atenção, legenda de imagens, geração de texto e DCGAN implementados com tf.keras e execução antecipada

22/08/2018

De Yash Katariya, estagiária de engenharia de programas para desenvolvedoresSempre achei os modelos geradores e sequenciais fascinantes: eles fazem um tipo de pergunta diferente dos que normalmente encontramos quando começamos a estudar aprendizado de máquina (AM). Quando comecei a estudar AM, aprendi (como muitos de nós) classificação e regressão. Esses conhecimentos me ajudaram a responder perguntas como:

É um cachorro ou um gato nessa foto? (classificação)

Qual é a probabilidade de chover amanhã? (regressão)

Classificação e regressão são conhecimentos que vale muito a pena dominar. As possibilidades de aplicação desses conhecimentos em problemas úteis e reais são praticamente ilimitadas. Mas há outros tipos de pergunta que podemos fazer e que têm um aspecto bem diferente:

Podemos gerar um poema? (geração de texto)

Podemos gerar a foto de um gato? (GANs)

Podemos traduzir uma frase de um idioma para outro? (NMT)

Podemos gerar uma legenda para uma imagem? (legendagem de imagens)

No meu estágio de verão, desenvolvi exemplos dessas áreas usando duas das APIs mais recentes do TensorFlow: tf.keras e execução antecipada. As duas estão compartilhadas a seguir. Espero que sejam úteis e que você se divirta bastante!

A execução antecipada é uma interface imperativa definida por execução em que as operações são executadas imediatamente à medida que são chamadas pelo Python. Esse recurso facilita os primeiros passos com o TensorFlow e torna o processo de pesquisa e desenvolvimento mais intuitivo.

tf.keras é uma API de nível superior voltada à definição de modelos com blocos básicos (como os blocos LEGO). Implementei esses exemplos usando subclasses de modelo, que permitem criar modelos totalmente personalizáveis por meio da criação de uma subclasse de tf.keras.Model e da definição da sua própria passagem progressiva (forward pass). A criação de subclasses de modelo é bastante útil quando a execução antecipada está ativada, já que a passagem progressiva pode ser escrita de forma imperativa.

Se você ainda não é muito experiente com essas APIs, pode aprender mais explorando a sequência de blocos de anotações em tensorflow.org/tutorials, que contém exemplos atualizados recentemente.Todos os exemplos abaixo são completos e seguem um padrão similar:

Baixe automaticamente os dados de treinamento.

Pré-processe os dados de treinamento e crie um conjunto de dados tf.data para usar no canal de entrada.

Defina o modelo usando a API de criação de subclasses de modelo do tf.keras.

Treine o modelo usando a execução antecipada.

Demonstre como usar o modelo treinado.

Exemplo 1: Geração de textoNosso primeiro exemplo é de geração de texto, em que usamos uma RNN para gerar texto em um estilo parecido com o de Shakespeare. Você pode executá-lo no Colaboratory com o link acima (ou baixá-lo do GitHub como um bloco de anotações do Jupyter). O código é explicado em detalhes no bloco de anotações.Considerando a enorme coleção de obras de Shakespeare, esse exemplo aprende a gerar textos com estilo parecido:

Exemplo de texto gerado pelo bloco de anotações após um treinamento de 30 eras (epochs) em uma coleção de obras de Shakespeare.

Embora a maioria das sentenças não faça sentido (obviamente, esse modelo simples não aprendeu o significado da linguagem), o que impressiona é que a maioria das palavras *é* válida e a estrutura das peças produzidas é semelhante à do texto original (esse é um modelo baseado em personagens, no breve período em que o treinamos; ele aprendeu as duas coisas totalmente do zero). Se quiser, você pode alterar o conjunto de dados mudando uma única linha do código.O melhor lugar para entender melhor as RNNs é no excelente artigo de Andrej Karpathy, The Unreasonable Effectiveness of Recurrent Neural Networks. Se quiser saber mais sobre como implementar RNNs com o Keras ou o tf.keras, recomendamos esses blocos de anotações de Francois Chollet.Exemplo 2: DCGANNeste exemplo, geramos dígitos escritos a mão usando DCGAN. Uma rede geradora adversária (GAN) consiste em um gerador e um discriminador. O trabalho do gerador é criar imagens convincentes para enganar o discriminador. O trabalho do discriminador é classificar as imagens como reais ou falsas (criadas pelo gerador). O resultado abaixo foi gerado após o treinamento do gerador e do discriminador por 150 eras usando a arquitetura e os hiperparâmetros descritos neste artigo.

GIF de imagens geradas a cada 10 das 150 eras. Veja no bloco de anotações o código para criar um GIF com esse.

Exemplo 3: Tradução de máquina neural com atençãoEste exemplo treina um modelo para traduzir frases em espanhol para o inglês. Depois de treinar o modelo, você poderá inserir uma frase em espanhol, como "¿todavia estan en casa?", e retornar a tradução para o inglês: "are you still at home?"A imagem abaixo é o diagrama de atenção. O diagrama mostra que partes da frase de entrada têm a atenção do modelo durante a tradução. Por exemplo, quando o modelo traduziu a palavra "cold", estava analisando "mucho", "frio", "aqui". Implementamos o Bahdanau Attention do zero usando o tf.keras e a execução antecipada, que explicamos detalhadamente no bloco de anotações. Você pode usar essa implementação como base para implementar seu próprios modelos personalizados.

Diagrama de atenção da tradução acima.

Exemplo 4: Legendagem de imagens com atençãoNeste exemplo, treinamos o nosso modelo para prever a legenda de uma imagem. Geramos também um diagrama de atenção, que mostra partes da imagem em que o modelo se concentra para gerar a legenda. Por exemplo, o modelo se concentrou na área perto da prancha de surfe da imagem quando previu a palavra "surfboard". Esse modelo foi treinado usando um subconjunto do conjunto de dados MS-COCO, que será baixado automaticamente pelo bloco de anotações.

Legenda prevista para a imagem.

Diagrama de atenção de cada palavra da imagem acima.

Próximos passosPara saber mais sobre o tf.keras e a execução antecipada, fique atento ao conteúdo de tensorflow.org/tutorials (frequentemente atualizado) e confira periodicamente este blog e o feed do TensorFlow no Twitter. Obrigado por ler!AgradecimentosAgradecemos imensamente a Josh Gordon, Mark Daoust, Alexandre Passos, Asim Shankar, Billy Lamberta, Daniel "Wolff" Dobson e Francois Chollet por suas contribuições e sua ajuda.

6 comentários :

steve dias disse...: Situs Judi Terpercaya dewapoker online pasti memberikan fasilitas sistem permainan poker online yang canggih, proses transaksi yang sangat cepat, dan pelayanan terbaik demi kenyamanan semua member. Bagi anda yang ingin bermain judi online seperti permainan poker online,domino qiu qiu, ceme,blackjack, ataupun capsa susun bisa mendaftarkan diri anda di dewa poker . dewa poker online menjadi Trendsetter Game Judi Poker Online Paling Terpercaya dan Recommended dari berbagai Situs, Blog, Media Sosial dan Beberapa Grup Pecinta Game Online Uang Asli

Selamat Datang di Website Resmi Pokerbo88 tempat judi Poker Online Terpecaya di asia dengan kemudahan bertransaksi Register, Deposit maupun Withdraw dengan Sangat Cepat dan Aman. Agen Pokerbo888 Selalu Memberikan Jaminan Keamanan Dalam Bermain Poker Online Tanpa Bot, Admin Serta Kami Selalu Memberikan Pelayanan Terbaik Selama 24 Jam Setiap Harinya, Kini Semua Member Dapat Bermain Poker online , dominoqq, domino qiu qiu ,Ceme, Keliling Live Poker, Capsa Susun Kapan Pun Dan Di manapun Karena Kami Menyediakan Aplikasi Android Dan Iphone Sehingga Anda Dapat Bermain Pokerbo888 Di SmartPhone Anda.; 14 de fevereiro de 2019 às 07:14
luffy disse...: Belum lengkap rasanya bagi pecinta game poker online kalau belum pernah cobain lapak303 temukan sensasi berbeda di
pokerbo bermain poker online lebih seru karena tingkat keamanan kami sangat tinggi dan stabil. banyak bonus menarik bagi member-member setia kami. jangan lewatkan promo geratis pendaftaran di pokerclub minimal deposit sangat rendah cuma 25 ribu anda sudah bisa memainkan game poker serta game seru lainnya. kunjungi link alternatif pokerlounge99 2019 sekarang juga. raih keberuntunganmu di
pokerrepublik; 15 de março de 2019 às 04:32
luffy disse...: Anda pengen game yang asyik dan seru? Mungkin game kartupoker yang mempunyai konsep atau memiliki jenis game kartu bisa menjadi salah satu solusi terbaik untuk Anda. remipoker 2019 Selain game kartu remi ataupun game domino, Anda bisa mengandalkan game poker sebagai salah satu game kartu yang tergolong paling seru dan menarik untuk dimainkan di HP Android. sekarang bukan jamannya repot main game poker cukup dengan gadget atau komputer dirumah anda semua sudah bisa memainkan rajaqq dirumah sambil tiduran atau bersantai. anda bisa bermain mengajak teman-teman anda, cukup dengan login dengan facebook atau media sosial lainnya anda sudah bisa memainkan game indoqq ini. segera daftar di link alternatif dominoqq 2019dan raih hoki anda sebanyak-banyaknya.; 20 de março de 2019 às 01:06
Richard Majece disse...: You can always read these useful tips if you want to learn How to Activate and Use iPhone Parental Controls. It will help you for sure; 15 de janeiro de 2020 às 09:45
Jobs in Dubai disse...: I Appreciate your valuable work on this beautiful Article and thanks for sharing the information to obtain the information and updates about jobs in Dubai, Jobs in Abu Dhabi, Jobs in Sharjah, Jobs in Ajman, Jobs in Ras Al Khaimah, Jobs in Fujairah and Job in Umm Al Quwain in short, Jobs in the United Arab Emirates (UAE) check uaeadvise.com jobs updates, it's absolutely recommended site and most valuable site for every job seeker. Jobs in Dubai; 13 de dezembro de 2020 às 13:12
Ehsaas Program 8171 BISP disse...: Really well-written! Ehsaas Program Benefits Maybe add some visuals to make it even more engaging?; 6 de março de 2025 às 03:23