AI上癮/走火入魔症？

最近，烏梅菓工作輔導的Power BI導入企業，學員在我手把手親自帶操作、帶邏輯理解一步一步「賦能」的同時，居然在同仁之間默默地傳染了「ChatGPT問DAX答案」上癮… 看了學員傳來狂炸DAX的BI報表，不得不趕快拉警鐘止血。

我看到一個學員的CountRows的寫法，試圖計算出業務員落後N個月的指標，但是學員沒有程式背景，不知道應該加上Distinct去問AI；我又看到一個KPI的色彩顯示，明明GUI就可以low code直接設定，但是學員硬是生了一個DAX去包這個條件，就像大熱天還穿羽絨外套一樣…

烏梅菓還沒走到AI教學的職涯階段，但怎麼做個BI導入就要順便教AI素養啊！一瞬間超崩潰！

馬上先跟學員及他們的主管傳達：先禁止使用AI生成DAX進模型。而且我下次輔導要全員考試：「自己可以說人話也解釋得清楚量值DAX公式的意義嗎？」這些人未來都是企業的BI種子教師，如果自己未能內化，以後再以錯誤的方式傳播知識，那不是等於放一把野火燒企業一樣嗎？

好可怕的AI世代，當大家習慣了快速得到答案，跳過理解和思考，BI會變成一場華麗的馬戲團秀，商業邏輯真空，然後蝴蝶效應，最後造成企業決策錯誤，崩盤。AI產出答案不負責對錯、不揹企業責任，但是員工如果誤信了它，做出錯誤報表，ChatGPT可不會陪你一起背鍋！

AI趨勢在就業、職場、校園，確實會掀起一陣無法回頭的浪潮，而且衝的速度比AI素養快N倍，我的觀察文從第一篇寫到現在，幾乎沒有一篇是對AI樂觀或不吐槽AI，我是認真覺得AI有幫助但也很危險。現在如果大家是無意識的使用AI，而且是被AI吹捧得飄在幻覺中，明明是被教壞了但是還突然以為自己開外掛，真…的…好…恐…怖！


筆者提供語意，ChatGPT生成圖
四格依序為：理性--〉沈迷--〉邏輯失控--〉重建素養

留言

張貼留言

這個網誌中的熱門文章

人間清醒使用者觀察日記：AI應該怎麼用？

圖片
人間清醒使用者觀察日記：AI應該怎麼用？ AI會讓人類變笨嗎？ 前幾天，朋友傳來一段ChatGPT產出的和弦，要我幫忙彈成一首歌 我當下其實有點不開心。 不只是曲子的「卡農曲式」高度公式化，而是那種「創作可以被AI輕鬆跳過」的感覺。 這篇是我從那一刻出發，寫下的觀察與反思。 10年前大家收到一個腦筋急轉彎或數學題，把它丟進Google，然後在數十篇的分享貼文部落格中抽絲剝繭找答案；10年後的現在，我們把它直接丟給ChatGPT，然後大部份的人居然還不驗算、不求證。（該不會說中你了吧？） 筆者剛開始使用AI的時候，我曾經覺得AI的推理邏輯，讓我對自己平常「auto pilot」時，無意識自然而然的決策行為更有邏輯上的校準對齊，並且知道了自己「還正常著」，因為經過AI的推理邏輯分析，也能同時帶給我冷靜反思的空間。 但那是因為烏梅菓自認為是極高度的AI自律使用者，我寫文章堅持要自己原汁原味地寫，或至少是經AI整理、但是我自行消化輸出。但後來站在週遭朋友們更普遍的使用立場來觀察，我就開始感覺…AI的便利性99%會讓人變笨。剩下的是1%的「人間清醒」、「懂得區分AI邊界」的使用者。 10年前我們就已知道AI會作曲，但還沒感覺它發生在我們自己身上，因為那似乎是研究室的「成果發表」；10年後的現在，我的朋友寫了歌詞，請ChatGPT幫忙套和弦，丟給我看，要我幫彈鋼琴做曲… 我突然感覺到「藝術創作的辛苦過程，完全被輕視」的不適感。 我看見了那段ChatGPT產生的和弦進行，是全世界流行歌曲中最芭樂的「卡農曲式」，依照我所能理解的ChatGPT回應邏輯，它提供一個「大眾審美/賞樂」最容易接受的答案，這在大語言模型的回饋來說再正常不過了。但是我無法接受的是「拿來直接套用」、「不經思考驗證」，甚至「要求別人加工」這些衍生而來的輕率感… 我到樓下順了和聲，然後進入一個「隨便彈」的狀態，順了兩次之後直接錄下來，十分鐘完成。自己知道非常普通，但其實我並不想用心。我的感想就是自己對創作歌曲的能力是不足的，在10分鐘之內我對友人的歌詞無法產生共鳴，也沒有強烈的創作動機。但我也確實在這個卡農曲式裡面可以很快的拼裝出「聽著很順但沒特色的大串燒」，可以和其他的卡農曲式歌曲來個二重奏、跳接拼歌不違和。我對自己的演繹定位是：「理解和弦，可以用和弦演奏旋律，但目前尚無法進行真正的創作。」充其量，有點像音樂系術...
閱讀完整內容

AI智能客服？

圖片
最近Umeiko在使用自己平日手機裡的一些APP/Line工具，例如金融、保險、藝文訂票服務等的「AI智能客服」功能時，非常一致性地發現，其實它們不怎麼AI，完全只是「穿著AI面具的FAQ」啊？ 這些「AI智能客服」有幾個共通處： （1）上下文記憶：幾乎沒有 （2）一次只能問一個清楚的問題（所以甚至大多提供了樹狀選項） （3）無法處理交叉條件的問題：例如詢問XX展覽-->列出展覽資訊；詢問票別-->列出購票資訊；但你若詢這 XX展覽 可以 買愛心票 嗎？它會回答： 我聽不懂你的意思……@@ （4）幾乎都是FAQ導引任務導向型，偶有出現在輸入時AutoComplete的優化介面 烏梅菓使用小結：這完全是【 穿著AI外衣的FAQ 】啊！這不是AI！這不是AI！這不是AI！算是AI幼幼班？ 為此，我認真地研究了目前台灣的各產業限制，為什麼這些聊天式的AI，都還只能在「類似FAQ」的範圍內發展，原來這涉及了很多層面的限制： 一、 技術底層並非真正的LLM 。多半都是關鍵字--〉意圖分類--〉對應答案。背後的邏輯對應應該也都是將SOP或既有的Rule輸入。涉及較複雜的詢問例如：「請問外幣定存商品建議投資什麼幣別？」這類複雜的判斷，它會建議你： 轉接真人客服 。 二、 上下文記憶的技術瓶頸 ：本來不知道GPU那麼燒錢，但是黃仁勳先生在台灣演講了很多次，所以我現在知道了它真的 很燒錢、很難訓練、出錯風險高。 三、除了難以訓練、成本高之外，倘以金融、保險這些 產業的性質 ，一旦像ChatGPT出現「一本正經的胡說八道」，那還不如不回答。 所以這是烏梅的使用小結： 這些「穿著AI外衣的FAQ」確實是台灣聊天型AI產品的發展現實。但我個人期望它在低風險場域（例如文史、觀光、導覽…等公部門），聊天型AI可以更進化、真的做出有LLM底層的導覽/ChatAI，只是我不知道究竟有沒有這樣的產品。 圖：穿著AI外衣的FAQ 筆者提供角色概念，ChatGPT生成圖 ※ 本文為作者實際使用經驗與觀察整理，純屬個人意見。
閱讀完整內容

AI作曲工具：Suno AI生成音樂實驗

圖片
今天烏梅菓實驗了一下AI作曲工具： Suno ，它是個語意+音樂模型匹配的音樂生成工具，樂器的話實驗了鋼琴和人聲中文歌，看起來它似乎偏好新世界樂風，給它明確的蕭邦曲目參考也沒什麼用，生出來的就是New Age。 聲明：以下 全部都是實驗 ， 沒有 半首半句來自本人創作。 【實驗一】：羅卡角之歌 咒語：A lyrical piano piece with a rubato rhythm, in a minor key. ABA form. Style similar to Chopin's nocturnes (Op. 27-1, Op. 9-2, Op. 15-2). It should evoke the feeling of standing on Cape Roca, Portugal, looking at the Atlantic Ocean, and reflecting on the longing for the distant American continent. It should express both gentle hope and a hint of wistful melancholy, with a sense of stirring emotion and inspiration in the heart of the character, Umeiko （其實打到Portugal就吃不進去了，好像是免費版字數限制） 結果聽起來兩組都是新世紀，一點都不古典，因為模型偏好新世紀曲風 https://suno.com/s/IOPExu6iqjWeuPSP https://suno.com/s/mQWh2Ig8Ig5ZqITP 因為上面的音樂覺得：「好像順順的，但又沒什麼特色」，太無趣了吧，我因此再度實驗一個比較不常見的和弦進行（其實我就是亂打），但依然算是合理，樂句也有解決。 【實驗二】：給定降B大調，把「1 4 2 5 7dim 6 5 1」的和弦進行丟給 Suno 咒語：A lyrical piano piece in B-flat Major  using this chord progression:  B♭ - E♭ -Cm - F - Adim - Gm - F - B♭ . It should be w...
閱讀完整內容