Aula 39 – TensorFlow – Keras – Redes Neurais – RNN Chatbot

toticavalcanti

Aula 39 – TensorFlow – Keras – Redes Neurais – RNN Chatbot

Voltar para página principal do blog

Aula 38 Aula 40

TensorFlow – Keras – Redes Neurais

Pacote Programador Fullstack

Redes Sociais:

Site das bibliotecas

Cursos Gratuitos

Quer aprender python3 de graça e com certificado? Acesse então:

Meus link de afiliados:

Canais do Youtube

Vocal Techniques and Exercises

Fiquem a vontade para me adicionar ao linkedin.

PIX para doações

PIX Nubank

Aula 39 – TensorFlow – Keras – Redes Neurais – RNN Chatbot

O artigo original seguido para essa aula é: Generative chatbots using the seq2seq model! de Dhruvil Shah.

ChatGPT

Tem se falado muito do ChatGPT, e é realmente fantástica essa ferramenta.

O GPT (Generative Pre-trained Transformer) não usa a arquitetura seq2seq.

Ele é baseado em transformers, uma arquitetura de rede neural projetada para lidar com dados sequenciais, como sequências de palavras em um texto.

O ChatGPT (Chat Generative Pre-trained Transformer) é um chatbot lançado pela OpenAI em novembro de 2022.

Ele é construído sobre a família GPT-3 da OpenAI de grandes modelos de linguagem e é ajustado com técnicas de aprendizado supervisionado e por reforço.

O ChatGPT rapidamente chamou a atenção por suas respostas detalhadas e articuladas em vários domínios do conhecimento.

Após o lançamento do ChatGPT, a OpenAI foi avaliada em US$ 29 bilhões.

Para executar o ChatGPT, a OpenAI gasta mais ou menos cerca de US$ 3 milhões por mês.

O ChatGPT é gratuito, por enquanto, mas, o CEO da OpenAI , Sam Altman, alertou que o trem da alegria acabará parando bruscamente: “Teremos que monetizá-lo de alguma forma em algum momento, os custos de computação são de encher os olhos”, tuitou ele.

A empresa, que espera faturar US$ 200 milhões em 2023, não é uma instituição de caridade.

Embora a OpenAI tenha sido lançada como uma organização sem fins lucrativos em 2015, ela abandonou esse status pouco mais de três anos depois, estabelecendo um laboratório de pesquisa de “lucro limitado” supervisionado por um conselho sem fins lucrativos.

O texto abaixo, foi criado pelo ChatGPT, eu digitei assim no chat:

“escreva um post sobre chatbot generativo usando rede neural recorrente”

Resposta do ChatGPT

Chatbots generativos usando redes neurais recorrentes

Chatbots são um tipo de inteligência artificial que pode ser usado para simular conversas com humanos.

Os chatbots generativos levam as coisas um passo adiante, produzindo suas próprias respostas, em vez de depender apenas de respostas pré-programadas.

Um tipo de chatbot que está se tornando cada vez mais popular é o chatbot generativo, que é construído usando uma rede neural recorrente (RNN).

RNNs são um tipo de modelo de aprendizado profundo projetado para processar dados sequenciais.

Eles são particularmente úteis para tarefas relacionadas à linguagem porque têm a capacidade de acompanhar o contexto e manter uma “memória” do que foi dito até agora.

Isso os torna adequados para a construção de chatbots generativos que podem entender o contexto de uma conversa e produzir respostas relevantes para esse contexto.

Para construir um chatbot generativo usando um RNN, o modelo é primeiro treinado em um grande corpus de dados de texto, como roteiros de filmes ou transcrições de conversas reais.

Durante o treinamento, a RNN é exposta a uma sequência de palavras, e seu objetivo é prever a próxima palavra da sequência dado o contexto das palavras anteriores.

Depois que o modelo é treinado, ele pode ser usado para gerar novas respostas em tempo real por amostragem da distribuição de possíveis próximas palavras.

Um dos principais benefícios de usar um RNN para chatbots generativos é que ele permite a produção de respostas mais naturais e humanas.

Ao contrário dos chatbots baseados em regras que só podem responder com respostas pré-determinadas, os chatbots baseados em RNN podem gerar uma gama mais ampla de respostas e até mesmo respostas que não foram vistas durante o treinamento.

Em conclusão, os chatbots generativos que usam redes neurais recorrentes são uma área empolgante e em rápido crescimento da inteligência artificial.

Ao combinar a capacidade dos RNNs de processar dados sequenciais com o poder do aprendizado profundo, esses chatbots são capazes de gerar respostas semelhantes às humanas e manter o contexto, tornando-os uma ótima opção para uma variedade de aplicativos de conversação de IA.

Fim do texto gerado pelo ChatGPT

Por fim, no vídeo dessa aula, eu inseri uma animação mostrando de uma forma mais visual, todo que ocorre na RNN com o modelo seq2seq, encoder/decoder, que usamos para treinar o chatbot do Dhruvil Shah.