ถึงจะกากแต่ก็อยากเล่าให้ฟัง
โพสต์ที่แล้วเกี่ยวกับ Machine learning เรารู้จัก Entropy คุณสมบัติของมันไปแล้วและรู้แล้วว่าเอาไปใช้ในการทำ feature selection ได้ คราวนี้มาลองคำนวณ entropy ดูบ้าง และอีกคำที่ควรรู้คือ “Information gain” ซึ่งเป็นการเทียบความ entropy ก่อน-หลังว่ามีการเปลี่ยนแปลงเท่าไหร่
ภาษาโปรแกรมคอมพิวเตอร์ที่เราคุ้นเคยในปัจจุบันอาจจะมีแค่ไม่กี่ภาษา แต่ความจริงแล้วมีเป็น 100 ภาษาเลยนะครับ แต่ละภาษาถูกสร้างขึ้นให้ทำงานเฉพาะทางและเพื่อแก้ปัญหาบางอย่างเท่านั้น ภาษาไหนที่ถูกออกแบบมาให้ใช้แบบ general purpose หรือเป็นที่นิยมเราจะได้ยินชื่อบ่อยหน่อย เช่น C/C++, Java, C#, Python, Ruby, JavaScript, Go etc.
โพสต์ที่แล้วผมพูดถึง Entropy (ภาษาไทยใช้ว่าคำว่า “ความแปรปรวน” ฟังแล้วไม่เก็ตเลยว่าคืออะไร) ซึ่งผมบอกถึงประโยชน์ของมันว่าใช้ในการทำ Feature selection ได้ โพสต์นี้เรามาทำความเข้าใจคำว่า entropy กัน