BLOGABOUT
//Teacher × Coder × Blogger

力強いカンガルー

技術と教育の境界で悩みながら、日々のすべてをコードで記録します。

最新記事を見る自己紹介を読む
classTeacher{
subject: [ "지구과학", "정보·컴퓨터"]
skills: ["Python", "JavaScript", "Arduino"... ]
passion: "실험하고 기록하기"
}
29
記事
15
カテゴリー
2021
開始
ゼロから作りながら学ぶ LLM 第7章 読書レビューとチャレンジの感想
Python

ゼロから作りながら学ぶ LLM 第7章 読書レビューとチャレンジの感想

第7章の内容は、指示に従うように微調整するプロセスだ。ある質問に対して、期待する応答を返すようにすること。やはり必要なのはデータである。1. 指示微調整の手順ここでの要点は、質問と応答のデータセットを用意し、入力-出力のペアとして学習させること。これをプロンプトスタイルと呼ぶ。その他は以前のプロセス...

힘센캥거루
2025년 12월 18일
ゼロから作りながら学ぶ LLM 第6章 読書レビュー
Python

ゼロから作りながら学ぶ LLM 第6章 読書レビュー

第6章は、分類のためのファインチューニングについてである。例として出てくるのは、スパム分類器の作成。スパム分類器は、あるメールなどがスパムかスパムでないかを分類するものなので、出力結果は 0 や 1 のような値になる必要がある。1. ファインチューニングの手順ファインチューニングのプロセスは、モデル...

힘센캥거루
2025년 12월 18일
ゼロから作りながら学ぶ LLM 第5章 読書レビュー
Python

ゼロから作りながら学ぶ LLM 第5章 読書レビュー

今日は12月14日だ。実はチャレンジ期間はすでに2週間も過ぎてしまったが、だからといってレビューを書くのをあきらめることはできなかった。こうして残しておくTILが、あとで自分の血となり肉となるからだ。コードそのものよりも、その意味に集中して書いてみようと思う。1. モデルの損失計算GPTモデルを作っ...

힘센캥거루
2025년 12월 14일
ゼロから作りながら学ぶ LLM 第4章 読書レビュー
Python

ゼロから作りながら学ぶ LLM 第4章 読書レビュー

今日は11月26日なので、毎日1章ずつ読み切ればチャレンジ成功だ。長男と次男の妨害の中で、それが可能かどうかは分からない。1. ダミー・トランスフォーマーGPTモデルを作りながら、PyTorchからトランスフォーマーのダミーブロックを持ってくる箇所を見た。調べてみると、PyTorch の nn の中...

힘센캥거루
2025년 11월 26일
ゼロから作りながら学ぶLLM第3章読書感想
Python

ゼロから作りながら学ぶLLM第3章読書感想

MacBookに大量の水をこぼしてパニックになり、3〜4日無駄にした。今考えてみると、どうせMacBookは駄目になったし、修理に出すと思って何かをすればよかったと思う。とにかく少し遅れたけど、最後までやるべきだと思い、第3章の感想を残す。1. アテンションメカニズム3章...

힘센캥거루
2025년 10월 28일
ゼロから作りながら学ぶLLM第2章読書レビュー
Python

ゼロから作りながら学ぶLLM第2章読書レビュー

すでにチャレンジ参加2週目。昨日まで2章を終えていなかったが、1泊2日の研修に来て、12時までコーディングしながらようやく進度を合わせた。1. 内容2章の内容は単語のトークン化、エンコーディング、デコーディング、埋め込みベクトルが中心だった。ワンホットエンコーダーを作ったことがあるので他のことは慣れていたが、埋め込み...

힘센캥거루
2025년 10월 18일
12345