專論》別只問聊天機器人 你可以親手觸摸天空！（下）

Newtalk新聞 他的整個認知世界，都是被安排好的 這個想法讓我想到一部科幻電影：《遺落戰境》（Oblivion）。 Tom Cruise 飾演 Jack Harper，一名在滿目瘡痍的地球上維修無人機的技術人員。 Jack 並不笨。恰恰相反。他足智多謀、技術能力很強，而且能解決困難的問題。這套系統需要他有能力。 修理無人機。維護設備。完成任務。 在那個被交給他的世界裡，他可以運用相當高程度的智慧。但 Jack 的問題，比「相信了一些錯誤事實」還要深。 他所處的整個認知世界，都是被安排好的。 他用來理解自己的任務、自己的過去，以及整個世界的資訊，都已經有人替他建構好了。他可以在盒子裡進行非常出色的推理。 真正的問題，是從現實本身開始不肯配合那個盒子的時候才出現。 如果 AI 變得極度擅長回答「盒子裡的問題」，卻同時悄悄地阻止那些可能讓我們發現「盒子邊界」的問題呢？ 陪伴我們的對象，不只是給我們答案。它也可能逐漸影響：哪些問題，最後甚至會出現在我們心中，成為「可以問的問題」。 伽利略有另一個想法 這又讓我回到以前寫過的一篇文章：《Do look up! Reproducing Galileo’s observation in 2021》。 我在 2021 年重新觀察木星與其衛星。 圖：數位楠/提供 伽利略抬起頭。他把望遠鏡指向木星，然後，他看見有衛星正在環繞另一個世界運行。 無論書本、權威，或我們繼承而來的假設說了什麼，望遠鏡另一端都有一個非常固執的東西存在： 現實。 觀測之後，再用工具協助辨認木星衛星的位置。 圖：數位楠/提供 多年以後，當我自己重新做了一次伽利略的觀察，真正吸引我的，也正是這一點。那個教訓不只是天文學的。它其實是一個認識論問題： 我們怎麼知道我們所知道的事情？ 有時候，答案簡單得令人感動： 自己去看。 在天文學裡，自己透過望遠鏡去看。在生物學裡，自己透過顯微鏡去看。在物理學裡，親手做實驗。而在歷史裡，自己去查那些歷史事實。 找到那張照片。閱讀當時的新聞報導。查閱檔案。比較不同的敘述。閱讀第一手資料。 然後問那個最重要的問題： 我們怎麼知道？ 這並不是說，我們不應該相信老師、歷史學家、書本——或者聊天機器人。伽利略自己也依賴儀器、數學，以及其他人類累積下來的知識。 真正的原則要細膩得多： 不要把「中介者」和「現實本身」混為一談。 聊天機器人可以是一個極其強大的中介者。但它仍然只是：中介者。 然後，楚門伸手摸了天空 還有另一部電影，多年來一直留在我的腦海裡：《楚門的世界》（The Truman Show）。 電影接近結尾時，楚門駕著帆船，向地平線航行。他的一生，都活在一個人工建造的世界裡。但他一直相信，那個世界是真的。 直到他的船撞上了一個東西。 天空。 但那並不是天空。那是一面被畫成天空的牆。然後，楚門做了一件非常美麗的事。 《楚門的世界》結尾：當描述的世界與親手碰到的世界不再一致。 圖：數位楠/提供 他伸手摸了它。 在他一生之中，天空一直代表著世界的邊界。但現在，他自己的手告訴他一件那套人工建構的敘事無法解釋的事情。 別人告訴他的世界，和他自己可以接觸到的世界，不再一致。最後，他找到了一扇門。 伽利略和楚門，看起來是一對非常奇怪的組合。一個屬於科學史，另一個屬於好萊塢。 但他們都讓我想到一件我愈來愈希望自己的兒子能夠明白的事情： 當「對現實的描述」和「現實本身」開始不一致時——繼續找。 不要只是再問一次中介者，請它給你另一個解釋。 檢查證據。摸摸那面牆。透過望遠鏡看。找到那扇門。 我們的孩子，如何學會「知道」 重新看著去年四月那張台灣演講的投影片，我想我會再修改一次。並不是因為 “Bad chatbot corrupts good character.” 這句話錯了，而是因為它還不完整。 陪伴我們的人與事物，不只會塑造我們的品格。它們也會塑造我們對世界的理解。 教育也是一種認知上的形塑（epistemic formation）。孩子學的不只是要知道什麼。他也在學：我們如何知道？我們相信誰？什麼算是證據？如果不知道，我們可以怎麼自己找出答案？ 孩子不只是在學答案。 他們也在學習「如何知道」。 一個孩子會慢慢學會如何挑戰一項主張，如何區分觀察與詮釋，如何辨認不確定性，如何說「我不知道」。 而也許最重要的是，他會學會問： 我要怎麼自己找出答案？ 如果 conversational AI 最終成為孩子接觸歷史、科學、文學與社會的重要介面之一，那麼這些系統就不可避免地會參與這個形塑過程。 哪些證據會出現？哪些問題會得到熱情的回答？哪些問題只得到謹慎的回答？哪些問題會被拒絕？又有哪些問題，會被溫柔地帶往一些「更正面的事情」？ 所以真正的問題不只是：「聊天機器人正在教我的孩子什麼？」 聊天機器人正在如何塑造我的孩子認為哪些事情是「可知的」、哪些問題是「可問的」，以及哪些問題「值得問」？ 同一個問題，也出現在企業裡 同樣的問題，也會出現在企業 AI。 想像一家新聞機構。它的 RAG 系統成功找到了正確的照片、正確的 metadata，以及正確的歷史新聞檔案。Retrieval 成功了。 但是，在記者真正看到答案之前，所有這些證據，都還必須經過一個 LLM。 如果模型把組織自己檔案庫中的內容壓掉、遺漏，或者重新框架，那麼最後誰擁有「認知上的最終決定權」？ 是組織自己的知識？ 還是負責詮釋那些知識的模型？ 不同的場景。同一個問題。 當中介者開始決定我們能夠看見什麼時，會發生什麼事？ 如果這對一家搜尋自己檔案庫的新聞機構都如此重要，那麼想像一下：對一個正在嘗試認識世界的孩子，它有多重要。 我仍然希望那個機器人坐在兒子身旁 所有這些思考，並沒有讓我想把那個友善的機器人從舊投影片裡拿走。恰恰相反。 我仍然希望那個機器人坐在我的兒子身旁。 我希望他深夜被代數搞得一頭霧水時，它願意陪著他。我希望它能用三種不同的方法解釋牛頓，直到其中一種終於讓他恍然大悟。 我希望它能翻譯一首日文詩，幫他辨認望遠鏡裡看到的東西，甚至回答一些他不好意思問爸爸的尷尬問題。 聽起來，這其實是相當不錯的陪伴。 真正的問題不是：我們的孩子應不應該和 AI 一起學習？他們一定會。 更有意思的問題是： 我們希望 AI 成為一個什麼樣的「思想伙伴」？ 它會鼓勵好奇心嗎？它能區分證據和主張嗎？它會承認不確定性嗎？它能幫助孩子理解，一件事情究竟可以如何被知道嗎？它會鼓勵孩子離開自己，去檢視其他證據嗎？ 而當孩子問了一個令人不舒服、但完全合理的問題時——它會幫助孩子繼續探索？還是會建議：也許我們應該想一些更正面的事情？ 一位偉大的老師，不會試圖成為學生的整個思想世界。 一位偉大的老師，最終會指著望遠鏡說： 現在，換你自己看。 別只問聊天機器人 也許，這就是我最終希望舊投影片裡那個坐在機器人旁邊的小男孩能夠擁有的東西。 我希望他問聊天機器人幾百萬個問題。我希望聊天機器人幫助他理解數學、物理、歷史、文學，以及許多他爸爸根本一竅不通的事情。 但我也希望他永遠知道： 聊天機器人的答案，從來不是可知世界的邊界。 費曼那一代的人，需要學習：知道一樣東西的名字，和真正知道那樣東西，是兩回事。 我們的孩子也許還需要學會另一個區別：「我知道一件事」和「ChatGPT 知道一件事」，是兩回事。 而也許還有第三個： 聊天機器人願意告訴我的邊界，並不等於人類可以知道的邊界。 所以：使用聊天機器人。 但不要停在那裡。 去讀那本書。打開那份歷史文件。仔細看那張照片。親手做那個實驗。透過顯微鏡觀察。把望遠鏡指向夜空。 讓自己和現實之間，始終保留一種不必永遠透過 AI 中介的關係。 如果有一天，你航行得夠遠，突然發現：你一直以為是天空的東西，原來只是一面牆—— 伸手摸摸它。 《楚門的世界》結尾。那裡甚至可能還有一扇門。 圖：數位楠/提供 那裡甚至可能還有一扇門。 我們的孩子，將在一個被各種機器包圍的世界裡長大。這些機器，幾乎什麼都能告訴他們。 但我們也應該教他們一件非常古老、甚至有一點老派的事情： 別只問聊天機器人。你可以親手觸摸天空！ 而最棒的是—— 天空至今仍然不消耗任何 token。 文／數位楠（曾經是一個被電腦科學分心的物理學生，如今仍在尋找：在 AI 時代，人之所以為人的核心是什麼） 延伸閱讀：怕都跑去美國？ 北京擴大科技人才出境限制令 嚴防AI技術外流Anthropic砸1,800億美元搶算力！AI Agent愈來愈強　輝達推「雙層防線」防暴衝吳忠春接任金屬中心董座 期許提升台灣技術能量與國際競爭力 AI安全警報響！OpenAI最新模型發表喊卡　Anthropic示警「人類存續風險」川普正式簽行政命令把「AI」改成「SI」 黃仁勳在內美科技巨頭一同見證專論》別只問聊天機器人 你可以親手觸摸天空！（上）