Projeta sua IA usando SQL Server Machine Learning com Microsoft Azure OpenAI Services

Microsoft SQL Server Machine Learning Services é um recurso que permite executar Python, R, Java e outras linguagens de Machine Learning no banco de dados, usando pacotes e estruturas de código aberto para análise preditiva e aprendizado de máquina. O Microsoft Azure OpenAI Service  é um serviço cognitivo de IA que utiliza sistemas avançados para geração e compreensão de linguagem natural, código e imagem. Nesta postagem do blog, você verá como usar o SQL Server Machine Learning Services com o Microsoft Azure OpenAI Service em um exemplo prático. Usar os Serviços de Machine Learning do SQL Server com o Azure OpenAI Service é uma combinação poderosa que pode ajudar as empresas a economizar dinheiro e aproveitar com segurança os produtos que já possuem.

Usando o banco de dados de amostra AdventureWorks em um exemplo prático

A empresa AdventureWorks (fictícia) utiliza um banco de dados que armazena dados sobre vendas e marketing, produtos, clientes e fabricação. Ele também contém uma visualização que reúne informações sobre os produtos, como nome do produto, categoria, preço e uma breve descrição.

Atualmente, a AdventureWorks envia o nome do produto e uma breve descrição para uma empresa de marketing desenvolver uma campanha para aumentar as vendas. O custo para este especialista de marketing é significativo e, depois de analisar as capacidades dos Transformadores Generativos Pré-treinados (GPT), a empresa está curiosa para saber se esta IA poderia ser usada para criar texto inicial para brochuras, automatizando a primeira etapa de o processo. GPT-4 é um modelo de linguagem poderoso que pode gerar texto coerente e criativo a partir de entradas complexas ou prompts .

Em vez de contratar um redator profissional, eles podem usar o SQL Server Machine Learning Services com o Microsoft Azure OpenAI Service para gerar automaticamente uma cópia do anúncio inicial de alta qualidade com base na descrição do produto e outros dados relevantes. Isso pode economizar tempo e dinheiro no orçamento de marketing. Esta abordagem também tem o benefício adicional de segurança, uma vez que a base de dados permanece local, os Procedimentos Armazenados têm elevada granularidade de segurança e o Serviço Azure OpenAI não utiliza as informações enviadas para formação adicional.

Este processo funciona em plataformas SQL Server Machine Learning Services em clusters Windows, Linux, Containers e Kubernetes, incluindo máquinas virtuais e SQL Server Managed Instance, a partir da versão 2019.

Durante sua pesquisa, a AdventureWorks descobriu que é importante ter cuidado ao gerar texto usando um modelo GPT. É possível que o texto gerado nem sempre seja apropriado ou preciso, por isso é importante ter um sistema implementado para revisar e aprovar quaisquer alterações antes de serem publicadas.

A prova de conceito (PoC) do AdventureWorks envolve os seguintes requisitos:

1. Crie um Stored Procedure para aceitar o modelo de um determinado produto.
2. Gere o texto do folheto de marketing para esse produto, destacando seus recursos e benefícios, usando o modelo GPT-4 do Azure OpenAI Service.
3. Certifique-se de que o texto gerado seja seguro e factual e que possa ser editado antes da publicação.

Código de exemplo

O projeto POC para AdventureWorks envolve as seguintes etapas:

1. Instale os Serviços de Machine Learning do SQL Server em um ambiente Microsoft Windows, Linux ou Container.
2. Crie e implante um modelo no Azure OpenAI Service e obtenha o nome, as chaves e os pontos de extremidade do modelo .
3. Instale o pacote openai Python usando o Azure Data Studio ou o pacote sqlmlutils . Isso permite que o código use a API OpenAI em scripts Python.
4. Escreva um script Python que use o procedimento armazenado sp_execute_external_script para consultar a exibição do produto, envie o nome e a descrição do produto como um prompt combinado para a API Azure OpenAI. O script também deve especificar os parâmetros do modelo, como o nome do mecanismo (como `davinci`), a temperatura (uma medida de aleatoriedade), os tokens máximos (o comprimento máximo do texto gerado) e a sequência de parada (um token que indica o final do texto). O script também deve tratar quaisquer erros ou avisos da API e retornar o texto gerado como conjunto de resultados.
5. Execute o script Python do SQL Server Management Studio ou do Azure Data Studio e revise o texto gerado para cada produto. Edite o texto conforme necessário ou execute novamente o script com parâmetros diferentes para obter resultados diferentes.
6. Quando o resultado for satisfatório, envolva o código em um procedimento armazenado para obter o número do modelo do produto do usuário e garanta que a cadeia de segurança seja verificada para o procedimento armazenado.
7. No aplicativo do usuário final, exiba o resultado do texto do anúncio ao usuário para edição e envie o resultado editado ao banco de dados para armazenamento.

Com esse esboço, o código de exemplo em um Notebook Jupyter do Azure Data Studio foi desenvolvido para AdventureWorks, permitindo a exibição de blocos descritivos, código e resultados persistentes. Após o teste e a edição, o código pode ser copiado para um script Transact-SQL e implantado para teste e depois para produção. O resultado final produz o seguinte texto inicial para exibir ao usuário final para edição e confirmação antes de ser definido no banco de dados:

[sic]

Caro entusiasta do mountain bike, Você está procurando uma bicicleta que possa oferecer o desempenho que você precisa sem gastar muito? Não procure mais, a Mountain-400-W Silver, 38. Esta bicicleta foi projetada para oferecer o desempenho de alto nível que você precisa para enfrentar qualquer terreno, sem o alto preço. Com seu design responsivo e manobrável, você será capaz de navegar com facilidade até pelas trilhas mais difíceis. Mas não se trata apenas de desempenho – o Mountain-400-W Silver, 38 também oferece tranquilidade quando você decide sair da estrada. Com sua construção robusta e componentes confiáveis, você pode confiar nesta bicicleta para lidar com qualquer coisa que você jogar nela. Então, por que esperar? Encomende hoje o seu Mountain-400-W Silver, 38 e experimente o que há de melhor em desempenho off-road a um preço acessível.

Outras aplicações desta abordagem

Como você pode ver, o uso do Microsoft SQL Server Machine Learning Services com o Microsoft Azure OpenAI Service tem aplicações práticas. Neste exemplo, usamos isso para criar um texto de folheto de marketing para vários produtos. Esta é uma forma poderosa e criativa de aproveitar a IA para as necessidades comerciais. O texto resultante pode ser enviado a um serviço de geração de imagens ( como o DALL-E ) para gerar imagens para a brochura. Outros conjuntos de dados no banco de dados AdventureWorks poderiam ser usados ​​em outras aplicações, como investigação de regiões de vendas e muito mais.

No entanto, é importante ser cauteloso e responsável ao utilizar modelos de IA, pois nem sempre podem produzir resultados precisos ou apropriados. Você deve sempre revisar e editar o texto gerado antes de publicá-lo e seguir as diretrizes éticas e de segurança do Microsoft Azure OpenAI Service .

Arbit: Especialista em Machine Learning

Pode não ser parecer fácil gerar valor para seus dados, mas a Arbit, pode ajudá-lo. Há mais de 20 anos atuando com inteligência de dados, a Arbit possui especialistas para implementar as melhores soluções ao seu ambiente de negócios.  Fale conosco agora mesmo