เครื่องจักรเรียนรู้เอ็กซ์ตรีมเชิงวิวัฒนาการโดยใช้พื้นฐานของขั้นตอนการค้นหาค่าที่เหมาะสมแบบสเต็บไซส์แรนดอมและขั้นตอนวิธีแบบหิ่งห้อย

Abstract

Extreme Learning Machine (ELM) เป็นขั้นตอนวิธีที่มีความเร็ว มีโครงสร้างการทำงานแบบ Single-hidden layer Feed forward neural networks (SLFNs) แต่อย่างไรก็ตาม ELM ยังคงใช้หลักการสุ่มเพื่อทำการกำหนดค่านํ้าหนักในชั้นนำเข้าข้อมูล และค่าเอนเอียงในชั้นซ่อน ทำให้มีโอกาสที่จะนำไปสู่ค่าเหมาะสมเฉพาะที่ (Local optimal) งานวิจัยนี้จึงได้นำเสนอวิธีการนำเอา Firefly Algorithm และ Optimized step-size random search (OSSRS) เข้ามาใช้ในการค้นหาค่าน้ำหนักในชั้นนำเข้าข้อมูล และค่าเอนเอียงในชั้นซ่อนที่เหมาะสมเพื่อนำไปใช้กับ ELM ซึ่งถูกเรียกว่า Optimized step-size random search Firefly Algorithm Extreme Learning Machine (OSSRS FA ELM) โดยทำการเปรียบเทียบประสิทธิภาพกับ ELM แบบเดิมและ ELM ที่ถูกเรียนรู้เพื่อหาค่าน้ำหนัก โดยใช้ Firefly Algorithm, Differential Evolution, Group Search Optimization จากผลทดลองแสดงให้เห็นว่า OSSRS FA ELM ให้ความถูกต้องในการจำแนกข้อมูล โดยเฉลี่ยสูงกว่า FA ELM 0.26%, DE ELM 0.72%, GSO ELM 0.67% และ ELM 1.63%.

Evolutionary Extreme Learning Machine Based on Optimized Step-Size Random Search Firefly Algorithm

Pakarat Musigawan, Sirapat Chiewchanwattana and Khamron Sunat

Extreme learning machine (ELM) is a new learning algorithm much faster than traditional gradient-based learning algorithm, was proposed for single-hidden layer feed forward neural networks (SLFNs). However, ELM use random determination of the input weight and hidden biases may lead, to local optimal. In this paper proposes a hybrid learning algorithms is proposed based on Optimized step-size random search (OSSRS) and Firefly algorithm to select input weight and hidden biases for ELM, called Optimized step-size random search Firefly Algorithm Extreme Learning Machine (OSSRS FA ELM). Then comparison the performance with OSSRS FA ELM, ELM and other a hybrid ELM trained to find input weights and hidden biases by Firefly Algorithm, Differential Evolution, Group Search Optimization. Experimental result show that OSSRS FA ELM is more accuracy than FAELM 0.26%, DE ELM 0.72%, GSO ELM 0.67% and ELM 1.63%.