我做了一系列入門 LLM 使用方式的微課程

我在近期修了師大資工教育學程的「資訊科技教材教法」這門課,課程主要目標是實際到學校內跟著兩位現役資訊老師觀課並實際設計課程試教。不過其中一個小作業是微課程,因此我製作了一門有關於教關於如何使用大型語言模型的主題,目標對象是不熟悉使用 ChatGPT 等語言模型的人。

資訊科技微課程專案 - 身為使用者使用 LLM 的方式
身為使用者使用 LLM 的方式

這整個課程是我花一個晚上錄出來的,沒有到很 Solid,但​自認為在近半年應該仍然能夠適用,並且可能是目前看繁體中文圈中缺少的角度。這系列課程大多參考自 Andrej Karpathy 近期釋出的影片 "How I use LLMs",並且挑出適合初學者了解的內容並將一個多小時的內容拆分成四個影片。

Lesson 1: 模型選擇與對話管理

  1. 解釋 token 與上下文視窗概念示範「開新聊天室」能節省 Token 與避免汙染記憶
  2. 比較不同模型的速度、成本、可靠度
  3. 練習在不同任務下選擇最合適的模型

Lesson 2: 提問法與思考模型

  1. 實作「角色-目標-限制」三段式 Prompt,體驗籠統 vs. 具體輸入的品質差距
  2. 認識 Thinking Models 以及了解何時值得等待較久的推理
  3. 練習 few-shot & chain-of-thought 提示,使模型呈現思考步驟並自行檢查答案

Lesson 3: 即時搜尋與深度研究方法

  1. 能夠連上網路的語言模型
  2. 取得最新新聞及文章並自動生成摘要
  3. 讓語言模型帶你深度研究特定議題

Lesson 4: 多模態語言模型使用及創作

  1. 把聲音、圖片、程式、分析都納進 AI 流程的方法
  2. 自定義模型 (GPTs) 與語音模型
  3. 使用情境:語音轉文字模型及摘要

以上,雖然主動點進來的各位應該都很熟悉 LLM App,但如果身邊有人好奇問你平常是怎麼使用這些工具的話,貼這個連結給他吧XD