p広聴AI2025-03-31~
2025-03-31
前回までで広聴AIを社内Azure環境にいれることはできて、それをアナウンスもしたのでひと段落
気になっているところ
綺麗にしてインストールする過程でAzure AI Foundaryで作ったインスタンス?を消してしまった
古いリソースグループを削除する時にうっかり巻き添え
このあたりのセットアップが実はMakefileに含まれてないんだよな
消してしまったから動かなくなったに違いない!と焦ったが、現状なぜか動いている
削除したものがUndoに備えてしばらく消えずに残っているのか?
だとしてもエラーになるべきだろ、GCされて動かなくなって気付いても手遅れになるじゃん?
社内向けの整備をしていくにあたってデプロイ作業用の環境と新機能開発用の環境は分けた方がいいのでは?という気持ち
作業フォルダを分けるべきか、ブランチで分けるだけでいいか
新しく参加した開発者の気持ちを体験するためにも新しく環境を作ろう
デプロイ作業用の環境をリネーム
$ mv kouchou-ai cybozu-kouchou-ai
新しくkouchou-aiをチェックアウトしてkouchou-ai-devって名前にする
Sync Forkする
ローカルで git clone git@github.com:nishio/kouchou-ai.git kouchou-ai-dev する
kouchou-ai-devでローカルで立ち上げる
.envを編集する
だいぶ変わってるな
# productionかdevelopmentを設定。productionの場合はopenapi等のUIが表示されなくなる。
ENVIRONMENT=development
なんだろうこれ
とりえあずAzureのEndpointの設定をした
が、一般的にはここで人々はOpenAIのAPIキーを入れることを求められてどれくらい金額がかかるか不安になる
中間データエクスポートがつけば、「これを配置したらいいよ、無料でできるよ」ができる
僕はまあ一旦実行してみるか
サンプルデータをダウンロードする
前回は50件だった、今回は400件
Sample400って名前にしておこう
実行
ERROR:root:Task <Future at 0xffff6a09e0f0 state=finished raised AssertionError> failed with error:
あれー
問題切り分けのためにOpenAIでやるか
あ、完了した
むむむ
開発は一旦横に置いて、やっぱりAzure AI Foundaryのインスタンスが行方不明なのはちゃんと動いてないんじゃん?というのを解決しよう
code::
# Azure OpenAI Serviceリソースの作成
az cognitiveservices account create \
--name kouchou-ai-openai \
--resource-group nishio-kouchou-ai-rg \
--kind OpenAI \
--sku s0 \
--location japaneast
# キーの取得
az cognitiveservices account keys list \
--name kouchou-ai-openai \
--resource-group nishio-kouchou-ai-rg
# エンドポイントの取得
az cognitiveservices account show \
--name kouchou-ai-openai \
--resource-group nishio-kouchou-ai-rg \
--query properties.endpoint
設定かえて再デプロイしてみる
その前に開発環境の方で.envを変えて再実験
ダメだな?
あー、わかった
まず「適切にAzure OpenAI Serviceのための設定が行われてるか」をassertしてるけど、上流でキャッチしてAPI呼び出しの失敗だと判定されている
embeddingの時はそのまま外に出るんだけどChatCompletionだけキャッチされる
そもそも設定を呼び出し時にチェックするのがおかしい
Devin.icon
Azureデプロイを最新版に更新するには、以下の手順を実行します:
まず、ローカルリポジトリを最新の状態に更新します:
$ git pull
Azureにログインします:
$ make azure-login
既存のAzure環境を更新するには、以下のコマンドを順番に実行します:
a. 最新のコンテナイメージをビルドします:
$ make azure-build
b. ビルドしたイメージをAzure Container Registryにプッシュします:
$ make azure-push
先に azure-acr-login-autoが必要
c. 環境変数を更新します(必要な場合):
$ make azure-config-update
d. 特に管理画面(client-admin)の環境変数を修正してビルドします:
$ make azure-fix-client-admin
デプロイが正常に完了したか確認します:
$ make azure-verify
$ make azure-info
これらのコマンドは、Makefileに定義されており、Azureの既存のContainer Appsを最新のコードで更新します。特にazure-buildとazure-pushが最新のコードをビルドしてデプロイするための重要なステップです。
この作業をしてみたけど見た目が変わってないな…
azure-login azure-build azure-acr-login-auto azure-push make azure-config-update make azure-fix-client-admin
client と api のコンテナは古いまま(イメージは新しくなったけどコンテナは古いもので起動したまま)になりそう slack なるほど
code::
az containerapp update --name api --resource-group nishio-kouchou-ai-rg --min-replicas 0 && \
echo '>>> 再度スケールアップ...' && \
sleep 5 && \
az containerapp update --name client-admin --resource-group nishio-kouchou-ai-rg --min-replicas 1
2025-04-01
レポートが消えたので復元する
コンテナにファイルを送る手段はないようなのでDropboxにおいてコンテナの中からcurlする
コンテナに入る
$ az containerapp exec --name api --resource-group nishio-kouchou-ai-rg --command bash
$ apt-get install unzip
無事なんとかなった