今回はWSL環境（Windows + RTX 3050 Laptop GPU）で、 軽量LLMをvLLMでどこまで実用的に動かせるか試してみた。 今回使ったモデルは Qwen2.5-1.5B-Instruct-AWQ 量子化済みの軽量モデルで、VRAM 6GBクラスでも動作可能だろうということで選びました。 今回作…

今回はあるアプリケーションを作りたくてラップトップGPUで動く顔検出が必要だったのですが、ちょうどいいのがなかったので、改めて自分で作ってみようと思いました。 既存のCNNで作っても良かったのですがせっかくなのでTransformer系を使ってみたいと思い…

こんにちは。 先日、AIといえば東大松尾研（いろいろ噂も聞きますが）からLLMの講義資料が公開されました。 weblab.t.u-tokyo.ac.jp 私の専門はもう少し組み込みやシステムエンジニア寄りではありますが、最近LLMを使うことが増えてきたので改めて基礎から勉…

こんにちは。 何か書きたいと思いましたが実装する気分ではないので、今回は実装しないでできることをやってみようと思います。 有名なCNN系のエンコーダーをNetronで可視化してみました。 NetronというのはONNX形式という汎用的なDNNモデルの保存形式で保存…

今回はWindowsのNvidia搭載環境でのroop-unleashedを使ってディープフェイク動画をつく方法を環境構築から説明していこうと思います。 非常に良くできたディープフェイク動画が作れるので、悪用厳禁でお願いいたします。 基本環境 Python CUDA cuDNN ffmpeg …

こんにちは。 今回は音声と演奏を分けるSpleeterを使用してYoutubeから動画をダウンロードして音声と演奏を分けてみようと思います。 こんなことができるようになります。 www.youtube.com Spleeter インストール コード Spleeter Spleeterとは音楽ストリー…

こんにちは。 今回は以前作ったVGG16ベースで作った画像分類器をSequentialからFunctionalでモデルを作り直そうと思います。 以前作った画像分類器の記事はこちら。 aki-lab.hatenadiary.com Sequential Functional Sequential 前回はSequentialモデルでVGG1…

こんにちは。 先日、YOLOv5の使い方を確認しました。 aki-lab.hatenadiary.com 今度はこのモデルを使って、当初の目的である交通量調査を行いたいと思います。 こんな感じになります。 将来的にはリアルタイムで交通量をモニタしたいのですが、まずはコンセ…

こんにちは。 今回は物体検出のモデルYOLOv5を使って騒音がすごい住んでいるマンション前の交通量を計ってみるために使い方を確認してみました。 YOLOv5とは PyTorchで使ってみる results.show() results.crop() results.print() results.pandas() YOLOv5と…

こんにちは。 今回は先日のモデルに引き続き、ざっくりと最初のHololiveメンバー識別機を作ってみたのでそのことを書こうと思います。 まず今回作った識別機がどのように動くかの動画がこちらになります。 youtu.be 背景 教師データ収集 識別CNNモデル 学習 …

こんにちは。現在、VTuberアイドルグループであるHololiveの画像分類器を作成しているのですが、CNNのモデル設定でハマったのでそのことを書こうと思います。ちなみにHololiveはこんなグループです。 所属タレント一覧 | hololive（ホロライブ）公式サイト …

こんにちは。 今回は先日落としてきた大量の画像データの読み込みに関してメモがてら書こうと思います。 先日は画像分類器のために画像を大量にダウンロードしてきました。 aki-lab.hatenadiary.com すると格納フォルダはこんなことになっています。 一応画…

こんにちは。 最近VTuberアイドルであるHololiveが身近で流行っているのですが、メンバーが多く覚えきれないので画像分類器を作成しようと考えています。 そこで、教師データとなる大量の画像データが必要になるので、GoogleChromeとそのプラグインであるImg…

PythonのTensorflowでプリグラムを実行しようとしたところ以下のようなエラーが出ました。 2022-04-24 20:52:29.885267: W tensorflow/stream_executor/platform/default/dso_loader.cc:64] Could not load dynamic library 'cudart64_110.dll'; dlerror: cu…

Tensorflowでモデルを回そうとしたところEpoch一回目で、以下のメッセージがでて、その後クラッシュしてしまいました。Epoch 1/10 2022-04-24 22:44:52.714618: I tensorflow/stream_executor/cuda/cuda_dnn.cc:368] Loaded cuDNN version 8400cuDNNのバージ…