“มนุษย์อาจตกเป็นทาสเทคโนโลยีได้!” – เสียงเตือนถึงภัยจากปัญญาประดิษฐ์ จาก 2 นักวิทยาศาสตร์รางวัลโนเบลฟิสิกส์ 2024″ จอห์น ฮอปฟีลด์” และ “เจฟฟรีย์ ฮินตัน”
รางวัลโนเบลประจำปี ค.ศ. 2024 ได้ประกาศออกมาครบทั้ง 6 สาขาแล้ว ระหว่างวันที่ 7 ถึง 14 ตุลาคม ทุกรางวัลสำคัญและน่าสนใจ
สำหรับคนเอเชีย ก็ยินดีเป็นพิเศษกับ ฮัน คัง (Han Kang) นักเขียนชาวเกาหลีใต้ ผู้เป็นนักเขียนหญิงเอเชียคนแรกที่ได้รับรางวัลโนเบลสาขาวรรณกรรม และ ดารอน อะเซโมกลู (Daron Acemoglu) นักเศรษฐศาสตร์ชาวตุรกี (ตุรกีเป็นทั้งประเทศในภูมิภาคเอเชียและยุโรป) แห่งเอ็มไอที (MIT) สหรัฐอเมริกา ผู้ร่วมได้รับ (ทั้งหมดสามคน) รางวัลโนเบลเศรษฐศาสตร์
แล้วก็มีความรู้สึกร่วมเป็นพิเศษกับสมาพันธ์ผู้ประสบภัยจากระเบิดปรมาณูในช่วงสงครามโลกครั้งที่สอง คือ ‘นิฮง ฮิดันเคียว’ (Nihon Hidankyo) องค์กรอิสระก่อตั้งเมื่อปีค.ศ. 1956 รณรงค์เพื่อมิให้มนุษยชาติต้องเผชิญภัยโศกนาฏกรรมนิวเคลียร์อีก
สำหรับเรา ‘เชื่อ คิดและทำ อย่างวิทยาศาสตร์’ วันนี้ ขอนำท่านไปโฟกัสที่ รางวัลโนเบลสาขาฟิสิกส์ ซึ่งเป็นผลงานการวิจัยและพัฒนาเกี่ยวกับ ปัญญาประดิษฐ์ (artificial intelligence) หรือ เอไอ (AI) ของสองนักวิทยาศาสตร์ คือ จอห์น ฮอปฟีลด์ (John Hopfield) และ เจฟฟรีย์ ฮินตัน (Geoffrey Hinton) ผู้ซึ่งในระยะไม่กี่ปีมานี้ ทั้งคู่ออกมาเตือนเสียงดังให้คนทั้งโลกระวังภัยจากเอไอ โดยที่เราจะไป…
* รู้จักตัวตนและผลงานเด่นเกี่ยวกับปัญญาประดิษฐ์ของสองนักวิทยาศาสตร์
* ดูเหตุผลการมอบรางวัลโนเบลแก่สองนักวิทยาศาสตร์
* ดูว่าผู้มอบรางวัลโนเบลมี ‘ความคิด’ อย่างไรต่อเสียงวิพากษ์และคำเตือนภัยจากเอไอ
* ดูว่ารางวัลโนเบลมีผลต่อ ‘จุดยืน’ การเตือนภัยจากเอไอของสองนักวิทยาศาสตร์ผู้ได้รับรางวัลโนเบลฟิสิกส์อย่างไร
* ดูผลจากการมอบรางวัลโนเบลต่อคนทั้งโลกเกี่ยวกับบทบาทและผลกระทบจากเอไอ
จอห์น ฮอปฟีลด์ กับ ‘โครงข่ายฮอปฟีลด์’ และ ‘ฤดูหนาวเอไอ’ :
จอห์น ฮอปฟีลด์ เป็นนักฟิสิกส์ชาวอเมริกัน ปัจจุบันมีอายุ 91 ปี (เกิดปีค.ศ. 1933) และยังทำงานอยู่กับมหาวิทยาลัยพรินซ์ตัน สหรัฐอเมริกา
หลังจบปริญญาเอกฟิสิกส์จากมหาวิทยาลัยคอร์เนลล์ ในปีค.ศ. 1958 ก็เข้าทำงานกับห้องปฏิบัติการเบลล์ (Bell Labs) เป็นเวลาสองปี แต่ก็มีความผูกพันอยู่กับห้องปฏิบัติการเบลล์เป็นเวลาเกือบ 30 ปี
ฮอปฟีลด์ เริ่มต้นทำงานวิชาการเต็มตัวที่มหาวิทยาลัยแคลิฟอร์เนีย, เบิร์กลีย์ ในปีค.ศ. 1961 ย้ายไปอยู่ที่มหาวิทยาลัยพรินซ์ตันในปีค.ศ. 1964 แล้วย้ายไปอยู่กับสถาบันเทคโนโลยีแคลิฟอร์เนียระหว่างปีค.ศ. 1980-1997 จนกระทั่งสุดท้ายก็กลับไปอยู่กับมหาวิทยาลัยพรินซ์ตันในปีค.ศ. 1997 ถึงปัจจุบัน
ฮอปฟีลด์เริ่มต้นงานอาชีพทางฟิสิกส์ แล้วต่อมาก็ขยายความสนใจไปสู่เคมีและชีววิทยา ซึ่งทำให้เขามองเห็นความเชื่อมโยงของกระบวนการทางฟิสิกส์, เคมีและชีววิทยา ปูทางสู่การสร้างผลงานทำให้เขาได้รับรางวัลโนเบลฟิสิกส์ปีนี้ โดยที่ในระหว่างการเดินทางจากฟิสิกส์ถึงชีววิทยา เขาก็ได้สร้างผลงานเป็น ‘ความรู้ใหม่’ ‘หลักคิดใหม่’ ที่มีความสำคัญต่อวงการวิทยาศาสตร์ปัจจุบัน โดยผลงานจากการศึกษาวิจัยของเขาบางผลงานก็มีความสำคัญถึงระดับตั้งชื่อตามชื่อของเขา
ตัวอย่างน่าทึ่ง คือ ‘Hopfield dielectric’ ซึ่งมีที่มาจากวิทยานิพนธ์ปริญญาเอกฟิสิกส์ของฮอปฟีลด์
แล้วก็ถึงปีค.ศ. 1982 ฮอปฟีลด์ก็ได้สร้างผลงานทำให้เขาได้รับรางวัลโนเบลฟิสิกส์ คือ ‘โครงข่ายฮอปฟีลด์’ หรือ ‘Hopfield Network’ ในช่วงเวลาที่กำลังเกิด ‘ฤดูหนาวเอไอ’ หรือ ‘AI winter’
‘AI winter’ เป็นคำที่ตั้งขึ้นมาโดย มาร์วิน มินสกี (Marvin Minsky) และ โรเจอร์ แชงค์ (Roger Schank) ในปี ค.ศ. 1984 มีความหมายถึง ยุคความตกต่ำของเอไอ หรือยุคมืดของเอไอ
AI winter มักจะถูกเปรียบเทียบกับ nuclear winter หรือฤดูหนาวนิวเคลียร์ ซึ่งเสนอโดยคาร์ล ซาแกน และเพื่อนนักวิทยาศาสตร์ในปี ค.ศ. 1983 (ในวารสาร Science ฉบับ 23 ธันวาคม) มีความหมายถึงโลกในสภาพหนาวเย็น ถ้าเกิดสงครามนิวเคลียร์ เพราะจะเกิดฝุ่นผงเป็นเมฆมหาศาลครอบคลุมโลกอยู่ยาวนานเป็นปี ทำให้โลกทั้งโลกตกอยู่ในสภาพที่หนาวเย็นและสิ่งมีชีวิตบนโลกจำนวนมากก็จะสูญพันธุ์ได้ ดังเช่นที่เกิดกับไดโนเสาร์เมื่อประมาณ 65 ล้านปีก่อนที่โลกถูกดาวเคราะห์น้อยชน
แต่…ในขณะที่ฤดูหนาวนิวเคลียร์เป็นคำเตือนที่เกิดขึ้นจาก ‘ความร้อนแรง’ ของการแข่งขันสะสมอาวุธนิวเคลียร์ของประเทศต่างๆ ทั่วโลก โดยเฉพาะอย่างยิ่งการแข่งขันระหว่างสหรัฐอเมริกากับสหภาพโซเวียตเดิม ที่ในช่วงเวลานั้นเป็นสองประเทศมหาอำนาจนิวเคลียร์ใหญ่ที่สุดของโลก
ส่วนของฤดูหนาวเอไอ ในทางตรงกันข้ามกับฤดูหนาวนิวเคลียร์อย่างตรงๆ คือสภาพความตกต่ำของบรรยากาศการสนับสนุนปัญญาประดิษฐ์ โดยเฉพาะอย่างยิ่งงบประมาณและเงินทุนสนับสนุนการพัฒนาเอไอ ทั้งจากภาครัฐและเอกชน เพราะสาเหตุความผิดหวังในความก้าวหน้าของเอไอ
************
ยุคของนิวเคลียร์กับยุคของปัญญาประดิษฐ์ เกิดขึ้นเกือบจะพร้อม ๆ กัน เพราะส่วนหนึ่งของชัยชนะฝ่ายสัมพันธมิตรในสงครามโลกครั้งที่สองก็คือ การใช้เครื่องคอมพิวเตอร์รุ่นบุกเบิกของฝ่ายสัมพันธมิตร ถอดรหัสข่าวสารของฝ่ายนาซี โดยมีนักบุกเบิกคอมพิวเตอร์หรือต้นแบบปัญญาประดิษฐ์คนสำคัญ ดังเช่น อแลน ทัวริง เป็นเสมือนกับหัวหน้าทีมการถอดรหัสนาซี (ดู “บรูโนและทัวริง…2 ผู้มาก่อนเวลา” , เชื่อ คิดและทำ อย่างวิทยาศาสตร์, ไทยรัฐออนไลน์, 27 มกราคม พ.ศ. 2567)
เมื่อสงครามโลกครั้งที่สองปิดฉากลง โลกของปัญญาประดิษฐ์ก็เปิดขึ้นอย่างคึกคัก แม้แต่จนกระทั่ง ถึงวันสุดท้ายชีวิตของทัวริงในปี ค.ศ.1954 ซึ่งเป็นเวลาก่อนที่ฮอปฟีลด์จะเรียนจบปริญญาเอกฟิสิกส์ในปี ค.ศ.1958 โลกของปัญญาประดิษฐ์ก็ยังสดใส ก่อนที่ฤดูหนาวเอไอจะมาถึงตั้งแต่ประมาณต้นทศวรรษปี 1970
ฮอปฟีลด์จบปริญญาเอกฟิสิกส์ในช่วงเวลาที่ปัญญาประดิษฐ์กำลังรุ่งโรจน์…
และฮอปฟิลด์ก็มองปัญญาประดิษฐ์อย่างสนใจ แต่ยังไม่มีส่วนร่วมในการพัฒนา…
จนกระทั่งถึงทศวรรษปี 1980 ซึ่งเป็นช่วงเวลาที่ฤดูหนาวเอไอได้ครอบคลุมโลกปัญญาประดิษฐ์เต็มที่ ฮอปฟีลด์ก็ได้สั่งสมความรู้ความคิดจากฟิสิกส์ , เคมีและชีววิทยา มากพอที่จะมองทะลุถึงเทคโนโลยีปัญญาประดิษฐ์ และตกผลึกออกมาในปีค.ศ. 1982 เป็น ‘โครงข่ายประสาทเชื่อมโยง’ (associative neural network) ที่ต่อมา ได้รับการเรียกเป็น ‘โครงข่ายฮอปฟีลด์’ และเป็นผลงานวางรากฐานสู่ปัญญาประดิษฐ์อย่างเป็นรูปธรรม คือ ‘machine learning’ หรือ ‘การเรียนรู้ของเครื่อง’ แล้วก็เป็นผลงานทำให้ฮอปฟีลด์ได้รับรางวัลโนเบล
อย่างไรก็ตาม โครงข่ายฮอปฟีลด์ก็มิได้ทำให้ฤดูหนาวเอไอหายไปทันที
ก้าวสำคัญต่อมา ก็คือ บทบาทของ เจฟฟรีย์ ฮินตัน ที่รับไม้ต่อจากฮอปฟีลด์ ทำให้ปัญญาประดิษฐ์ ได้เดินหน้าอย่างเป็นรูปธรรม ถึงประมาณกลางทศวรรษปี 1990 ฤดูหนาวเอไอจึงผ่านไป เข้าสู่ยุคเบ่งบานของเอไอที่ร้อนแรง…
จนกระทั่งถึงทศวรรษปี 2020 ปัญญาประดิษฐ์ก็ต้องเผชิญกับการตื่นตัวเตือนภัยจากเอไอ
************
สาเหตุการตื่นตัวเตือนภัยจากเอไอ นับเป็นเรื่องค่อนข้างแปลก เพราะ…อย่างตรงๆ…เกิดขึ้นจากความสำเร็จของเอไอที่อาจจะมากเกินไป จนกระทั่งเอไอสามารถทำทุกอย่างที่มนุษย์ทำได้ โดยเฉพาะอย่างยิ่งเรื่องการใช้ปัญญาที่ ‘ล้ำหน้า’ สมองมนุษย์
และอย่างน่าพิศวง การแสดงออกถึงการเตือนภัยจากเอไอที่สร้าง ‘กระแส’ ได้จริงๆ ก็มาจากนักวิทยาศาสตร์ที่เคยร่วมสนับสนุนอย่างเต็มที่
รวมถึงฮอปฟีลด์ด้วย ที่ร่วมลงชื่อในจดหมายเปิดผนึก (มีนาคม ค.ศ. 2023) ‘Pause Giant AI Experiment’ (หยุดการทดลองเอไอยักษ์) ออกโดย Future Of Life Institute (สถาบันอนาคตแห่งชีวิต) มีผู้ร่วมลงชื่อเป็นจำนวนกว่า 30,000 คน
อย่างไรก็ตาม การร่วมลงชื่อในจดหมายเปิดผนึกนั้นของฮอปฟีลด์ แสงสปอร์ตไลต์ก็ยังไม่จับที่ฮอปฟีลด์นัก จนกระทั่งหลังจากที่ฮินตันได้ประกาศลาออกจาก Google เพื่อออกมาเตือนภัยเอไอได้เต็มที่ และโดยเฉพาะอย่างยิ่ง หลังจากที่ฮอปฟีลด์ได้รับการประกาศชื่อเป็นผู้ได้รางวัลโนเบล
************
เจฟฟรีย์ ฮินตัน…”เอไอก็อดฟาเธอร์” :
เจฟฟรีย์ ฮินตัน เป็นนักวิทยาศาสตร์คอมพิวเตอร์ชาวอังกฤษ ปัจจุบันอายุ 77 ปี (เกิดปี ค.ศ.1947) จบปริญญาเอกปัญญาประดิษฐ์ ปี ค.ศ.1978 จากมหาวิทยาลัยเอดินบะระ (University of Edinburgh) เริ่มต้นทำงานที่มหาวิทยาลัยซัสเซกซ์ ประเทศอังกฤษ ปัจจุบัน เป็นศาสตราจารย์เกียรติคุณที่มหาวิทยาลัยโตรอนโต ประเทศแคนาดา ซึ่งเขาร่วมทำงานมาตั้งแต่ปี ค.ศ.1987
ความเกี่ยวพันกับปัญญาประดิษฐ์ของฮินตัน ดำเนินต่อเนื่องอย่างเป็นธรรมชาติตั้งแต่จบปริญญาเอก และฮินตันก็ได้มีบทบาทสำคัญในการพัฒนาปัญญาประดิษฐ์ ทั้งในเชิงวิชาการและเทคโนโลยีตลอดชั่วชีวิต
ถึงแม้ฮินตันจะจบปริญญาเอกปัญญาประดิษฐ์ และก็ทุ่มเทให้กับการวิจัยและพัฒนาปัญญาประดิษฐ์ตลอดมา แต่จุดเริ่มต้นที่นำทางฮินตัน ให้เขาได้สร้างผลงานโดดเด่นเกี่ยวกับปัญญาประดิษฐ์ ก็คือ โครงข่ายฮอปฟีลด์
ในปี ค.ศ.1985 ฮินตันอาศัยโครงข่ายฮอปฟีลด์ มาพัฒนาเป็น ‘เครื่องโบลต์ซมันน์’ (Boltzmann machine) ที่สามารถให้คำตอบ (ที่สมบูรณ์) จากข้อมูลแบบสุ่มหรือไม่สมบูรณ์ได้ ซึ่งก็คือ ‘การเรียนรู้ของเครื่อง’ (machine learning) ที่เป็นหัวใจของปัญญาประดิษฐ์ คล้ายกับสมองมนุษย์ ที่สามารถนึกถึงเพลงทั้งเพลงได้ จากเพียงส่วนหนึ่งของเพลง…
และก็เป็นผลงานทำให้ฮินตันได้รับรางวัลโนเบลฟิสิกส์คู่กับฮอปฟีลด์
จากบทบาทของฮินตันในการวิจัยและพัฒนาปัญญาประดิษฐ์ ทำให้เขาได้รับการเรียกเป็น ‘Godfather of AI’ หรือ ‘เอไอก็อดฟาเธอร์’
และก็เป็นเพราะการกลับทิศทางการส่งเสริมเอไอมาเป็นการเตือนภัยจากเอไอของฮินตัน ด้วยการลาออกจาก Google ในเดือนมีนาคม ค.ศ. 2023 ด้วยเหตุผลว่า “เพื่อที่เขาจะได้กล่าวเตือนภัยจากเอไอได้อย่างอิสระ” ทำให้การเตือนภัยจากเอไอเป็นกระแสดังขึ้นทั่วโลก
************
รางวัลโนเบลฟิสิกส์ 2524 กับเสียงการเตือนภัยจากเอไอ :
อย่างเร็ว ๆ วันที่ 8 ตุลาคม ค.ศ. 2024 ราชบัณฑิตสภาวิทยาศาสตร์สวีเดน (The Royal Swedish Academy of Sciences) ประกาศผลการพิจารณามอบรางวัลโนเบลสาขาฟิสิกส์ประจำปี ค.ศ. 2024 แก่ จอห์น ฮอปฟีลด์ และ เจฟฟรีย์ ฮินตัน
สำหรับผลงานของฮอปฟีลด์คือ โครงข่ายฮอปฟีลด์ และผลงานของฮินตันคือ เครื่องโบลต์ซแมนน์ นำมาสู่การเรียนรู้ของเครื่อง (machine learning) และเทคโนโลยีปัญญาประดิษฐ์ที่ทำงานได้จริง
สำหรับคุณค่าของผลงานรางวัลโนเบลฟิสิกส์ปี 2524 เอลเลน มูนส์ (Ellen Moons) ประธานคณะกรรมการโนเบลฟิสิกส์ (Nobel Committee for Physics) กล่าวว่า ผลงานจากสองผู้ได้รับรางวัลโนเบลฟิสิกส์ปีนี้ ได้ถูกนำมาใช้งานเป็นประโยชน์อย่างหลากหลาย ดังเช่น ในฟิสิกส์ นักฟิสิกส์กำลังใช้ “โครงข่ายประสาทเทียม” ในการศึกษาวิจัยและพัฒนาอนุภาคฟิสิกส์ วัสดุศาสตร์และฟิสิกส์ดาราศาสตร์
รวมไปถึงการใช้งานปัญญาประดิษฐ์ในชีวิตประจำวัน เช่น การจดจำใบหน้า (facial recognition) การแปลภาษา และอื่น ๆ ต่อเสียงวิพากษ์ คำเตือน เกี่ยวกับภัยจากปัญญาประดิษฐ์ เมื่อถูกจี้ถาม เอลเลน มูนส์ ตอบว่า “พัฒนาการที่รวดเร็วของเอไอ ก็ได้สร้างความกังวลต่ออนาคตของเราโดยภาพรวมด้วย”
************
จุดยืนของฮอปฟีลด์และฮินตัน หลังการประกาศเป็นผู้ได้รับรางวัลโนเบล :
หลังการประกาศผลรางวัลโนเบลฟิสิกส์ปี 2024 ฮอปฟีลด์ให้สัมภาษณ์ว่า “(เขา) กังวลอย่างมากกับความก้าวหน้าของเอไอในระยะหลัง ๆ มานี้” และกล่าวอีกว่า “ในฐานะนักฟิสิกส์ ผมไม่สบายใจอย่างมากกับบางสิ่งที่เราควบคุมไม่ได้”
ในการแถลงข่าวที่มหาวิทยาลัยพรินซ์ตัน (หลังการประกาศเป็นผู้ได้รับรางวัล) ฮอปฟีลด์กล่าว เปรียบเทียบเอไอกับการค้นพบปฏิกิริยานิวเคลียร์ฟิชชัน ซึ่งนำมาสู่อาวุธนิวเคลียร์และมหาอำนาจนิวเคลียร์
สำหรับฮินตัน หลังการประกาศเป็นผู้ได้รับรางวัลโนเบลก็ให้สัมภาษณ์และออกแถลงการณ์จุดยืนของเขาเกี่ยวกับเอไอ สรุปประเด็นใหญ่ คือ
* ก่อนการประกาศเป็นผู้ได้รับรางวัลโนเบล ฮินตันเปรียบเทียบความก้าวหน้าของเอไอว่า เหมือนกับ การปฏิวัติทางอุตสาหกรรม ที่เครื่องจักรแข็งแรงกว่ามนุษย์ แต่ตอนนี้เรากำลังเผชิญกับสิ่งที่กำลังจะมีความสามารถทางปัญญามากกว่ามนุษย์ และเราไม่มีประสบการณ์การอยู่กับสิ่งที่ฉลาดกว่าเรา
* ฮินตันตอกย้ำหลังการประกาศเป็นผู้ได้รับรางวัลว่า เอไอที่ไม่มีการควบคุม จะทำให้ ‘มนุษย์กลายเป็นวัตถุโบราณ’ และตกเป็นทาสเทคโนโลยีได้ (ดังที่เตือนกันในนิยายวิทยาศาสตร์)
โดยภาพรวม จุดยืนของทั้งฮอปฟีลด์และฮินตันในการเตือนภัยจากเอไอ หลังการประกาศเป็นผู้ได้รับรางวัลโนเบลฟิสิกส์ ก็ไม่เปลี่ยนไป และทั้งสองก็เรียกร้องตรงกันว่า เรา (มนุษย์) ต้องเร่งหาวิธีการที่จะควบคุมความก้าวหน้าและการใช้ประโยชน์ของเอไอ มิให้ “เหนือมนุษย์” มิฉะนั้น มนุษย์ก็จะไม่มีอนาคต!
************
สรุปภาพรวมผลของการมอบรางวัลโนเบลสาขาฟิสิกส์แก่สองนักวิทยาศาสตร์ ผู้มีบทบาทสำคัญในการพัฒนาเอไอ
รวมถึง รางวัลโนเบลสาขาเคมี ที่มีผู้ได้รับรางวัลสามคน โดยที่สองในสามคนก็เป็นนักวิทยาศาสตร์อยู่กับ Google และใช้เอไอในการพยากรณ์โครงสร้างโปรตีน ก็ทำให้เกิดแรงกระตุ้นแก่เอไอ คือ ทำให้โลกของปัญญาประดิษฐ์สว่างขึ้นมาอีกบ้าง หลังกระแสรุนแรงการเตือนภัยจากเอไอ
โดยในขณะเดียวกัน ก็มีความเคลื่อนไหวต่อเนื่องจากกระแสการเตือนภัยจากเอไอ ดังเช่นการพัฒนาเทคโนโลยีหรือกระบวนการ ที่จะควบคุมเอไอ มิให้ถูกนำไปใช้ ‘ผิดทาง’ ดังเช่น รัฐบาลของหลายประเทศก็ตื่นตัว ในการออกกฎหมายหรือกฎระเบียบ ควบคุมการใช้งานและประโยชน์ของเอไออย่างผิดทาง
รวมไปถึง Google เอง ที่ฮินตันได้ลาออก ก็ ‘พัง’ ฮินตัน และได้ออกมาตรการเพื่อป้องกันการใช้ Google (ยักษ์ใหญ่ของเอไอ) ในทางที่ไม่พึงประสงค์
สำหรับผู้เขียน เห็นด้วยกับการเตือนภัยจากเอไอ แต่ก็ยอมรับว่า เอไอได้เข้ามาเป็นส่วนหนึ่งของชีวิตมนุษย์แล้ว อย่างปฏิเสธไม่ได้
โจทย์ใหญ่ก็คือ แล้วเรา (มนุษย์) กับเอไอจะอยู่ร่วมกันอย่างสร้างสรรค์และสันติได้อย่างไร?
เป็นโจทย์ใหญ่ที่ผู้เขียนเชื่อว่า มีทางออก ซึ่งไม่ง่าย แต่มิใช่เป็นไปไม่ได้ !
แล้วท่านผู้อ่านล่ะครับ คิดอย่างไร?