Kỹ thuật tôi là một quá trình luyện kim, trong đó sự sắp xếp ngẫu nhiên của các phân tử cácbon trong thép đƣợc chuyển đổi thành một kim loại có cấu trúc lớp ít giòn hơn. Quá trình này bao gồm việc nung kim loại ở một nhiệt độ rất cao và sau đó làm lạnh từ từ. Các phân tử ở nhiệt độ cao có mức năng lƣợng cao, là cho các phân tử này chuyển động. Khi mà nhiệt độ giảm đi, các chuyển động cũng giảm đi và chúng đƣợc sắp xếp thành các lớp. Ý tƣởng này đƣợc áp dụng vào các thuật toán huấn luyện cho mạng nơron. Nhiệt độ đƣợc coi nhƣ là hệ số học đƣợc giảm dần. Ý tƣởng ở đây là nếu mạng gặp phải một điểm cực trị địa phƣơng thì nó sẽ đƣợc “rung” (shake) để có thể thoát khỏi cực trị địa phƣơng. Nếu nhƣ “nhiệt độ” đƣợc giữ không đổi thì hệ sẽ
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn/ chỉ chuyển từ một điểm cực trị địa phƣơng này sang một điểm cực trị địa phƣơng khác và khó có thể ổn định. Nếu khả năng nhảy đƣợc giảm đều thì mạng sẽ có xu hƣớng đạt đến đƣợc điểm cực trị toàn cục. Và một khi mạng đạt đến điểm cực trị toàn cục thì mức rung sẽ không đủ để có thể khiến cho mạng bỏ qua nó.
Rõ ràng thuật toán giả luyện kim có dáng dấp của một thuật toán huấn luyện với hệ số học biến đổi, tuy nhiên, hệ số học trong thuật toán này đƣợc giảm dần trong khi, thuật toán huấn luyện sử dụng hệ số học biến đổi sẽ làm tăng hay giảm hệ số học tùy thuộc vào tình huống cụ thể khi sai số khi học là tăng hay giảm.