Mạng nơ-ron là những thiết bị thống kê giám sát song song nhằm mục đích tạo ra một quy mô máy tính của bộ não. Mục tiêu chính đằng sau là tăng trưởng một mạng lưới hệ thống để thực thi những tác vụ đo lường và thống kê khác nhau nhanh hơn những mạng lưới hệ thống truyền thống cuội nguồn. Các trách nhiệm này gồm có Nhận dạng và Phân loại Mẫu, Ước lượng, Tối ưu hóa và Phân cụm Dữ liệu .
Mạng nơron nhân tạo (ANN) là một hệ thống tính toán hiệu quả có chủ đề trung tâm được mượn từ sự tương tự của mạng nơron sinh học. ANN cũng được đặt tên là Hệ thống thần kinh nhân tạo, Hệ thống xử lý phân tán song song và Hệ thống kết nối. ANN có được một bộ sưu tập lớn các đơn vị được kết nối với nhau theo một số kiểu để cho phép liên lạc giữa chúng. Những đơn vị này, còn được gọi là nút hoặc nơ-ron, là những bộ xử lý đơn giản hoạt động song song.
Mọi nơron đều được liên kết với nơron khác trải qua một link liên kết. Mỗi link liên kết được link với một trọng số có thông tin về tín hiệu nguồn vào. Đây là thông tin hữu dụng nhất cho những tế bào thần kinh để xử lý một yếu tố đơn cử vì khối lượng thường kích thích hoặc ức chế tín hiệu được truyền đạt. Mỗi nơ-ron đang có trạng thái bên trong được gọi là tín hiệu kích hoạt. Tín hiệu đầu ra, được tạo ra sau khi tích hợp tín hiệu nguồn vào và quy tắc kích hoạt, hoàn toàn có thể được gửi đến những đơn vị chức năng khác .
2. Cài đặt package:
Để tạo mạng thần kinh bằng Python, tất cả chúng ta hoàn toàn có thể sử dụng một gói can đảm và mạnh mẽ cho mạng thần kinh có tên là NeuroLab. Nó là một thư viện những thuật toán mạng nơ-ron cơ bản với những thông số kỹ thuật mạng linh động và những thuật toán học cho Python .
pip install NeuroLab
Nếu bạn đang sử dụng thiên nhiên và môi trường Anaconda
conda install -c labfabulous neurolab
3. Xây dựng Neural Networks
Trong phần này, tất cả chúng ta sẽ thiết kế xây dựng một số ít mạng thần kinh trong Python bằng cách sử dụng gói NeuroLab .
4. Bộ phân loại dựa trên Perceptron
Perceptron là những khối thiết kế xây dựng của ANN
import matplotlib.pyplot as plt
import neurolab as nl
Nhập những giá trị nguồn vào. Lưu ý rằng đó là một ví dụ về học có giám sát, do đó bạn cũng sẽ phải phân phối những giá trị tiềm năng .
input = [[0, 0], [0, 1], [1, 0], [1, 1]]
target = [[0], [0], [0], [1]]
Khởi tạo 2 input và 1 neuron
net = nl.net.newp([[0, 1],[0, 1]], 1)
Bây giờ, training Mã Sản Phẩm. Ở đây, mình đang sử dụng quy tắc Delta để giảng dạy .
error_progress = net.train(input, target, epochs=100, show=10, lr=0.1)
visualize hiệu quả đầu ra và vẽ biểu đồ :
plt.figure()
plt.plot(error_progress)
plt.xlabel('Number of epochs')
plt.ylabel('Training error')
plt.grid()
plt.show()
Bạn hoàn toàn có thể thấy biểu đồ sau cho thấy tiến trình huấn luyện và đào tạo bằng cách sử dụng error metric :
5. Mạng nơ ron một lớp
Trong ví dụ này, tất cả chúng ta đang tạo một mạng nơ-ron một lớp gồm có những nơ-ron độc lập hoạt động giải trí trên tài liệu nguồn vào để tạo ra đầu ra. Lưu ý rằng chúng tôi đang sử dụng tệp văn bản có tên neural_simple. txt làm đầu vào .
import numpy as np
import matplotlib.pyplot as plt
import neurolab as nl
Load dữ liệu như sau :
input_data = np.loadtxt(“/Users/admin/neural_simple.txt')
Sau đây là tài liệu mà mình sẽ sử dụng. Lưu ý rằng trong tài liệu này, hai cột tiên phong là những tính năng và hai cột ở đầu cuối là nhãn .
array([[2., 4., 0., 0. ],
[1.5, 3.9, 0., 0. ],
[2.2, 4.1, 0., 0. ],
[1.9, 4.7, 0., 0. ],
[5.4, 2.2, 0., 1. ],
[4.3, 7.1, 0., 1. ],
[5.8, 4.9, 0., 1. ],
[6.5, 3.2, 0., 1. ],
[3., 2., 1., 0. ],
[2.5, 0.5, 1., 0. ],
[3.5, 2.1, 1., 0. ],
[2.9, 0.3, 1., 0. ],
[6.5, 8.3, 1., 1. ],
[3.2, 6.2, 1., 1. ],
[4.9, 7.8, 1., 1. ],
[2.1, 4.8, 1., 1. ]])
Bây giờ, hãy tách 4 cột này thành 2 cột tài liệu và 2 nhãn –
data = input_data[:, 0:2]
labels = input_data[:, 2:]
Vẽ đồ thị dữ liệu đầu vào bằng các lệnh sau:
plt.figure()
plt.scatter(data[:,0], data[:,1])
plt.xlabel('Dimension 1')
plt.ylabel('Dimension 2')
plt.title('Input data')
Bây giờ, xác lập những giá trị tối thiểu và tối đa cho mỗi thứ nguyên như được hiển thị ở đây –
dim1_min, dim1_max = data[:,0].min(), data[:,0].max()
dim2_min, dim2_max = data[:,1].min(), data[:,1].max()
Tiếp theo, xác lập số lượng tế bào thần kinh trong lớp đầu ra :
nn_output_layer = labels.shape[1]
xác lập mạng nơ-ron một lớp :
dim1 = [dim1_min, dim1_max]
dim2 = [dim2_min, dim2_max]
neural_net = nl.net.newp([dim1, dim2], nn_output_layer)
Huấn luyện mạng nơron với số epochs và learning rate như sau :
error = neural_net.train(data, labels, epochs = 200, show = 20, lr = 0.01)
Tiếp tục visualize và vẽ quy trình giảng dạy :
plt.figure()
plt.plot(error)
plt.xlabel('Number of epochs')
plt.ylabel('Training error')
plt.title('Training error progress')
plt.grid()
plt.show()
Sử dụng những điểm tài liệu thử nghiệm trong bộ phân loại trên
print('\nTest Results:')
data_test = [[1.5, 3.2], [3.6, 1.7], [3.6, 5.7],[1.6, 3.9]] for item in data_test:
print(item, '-->', neural_net.sim([item])[0])
Bạn hoàn toàn có thể tìm thấy tác dụng như sau :
[1.5, 3.2] --> [1. 0.]
[3.6, 1.7] --> [1. 0.]
[3.6, 5.7] --> [1. 1.]
[1.6, 3.9] --> [1. 0.]
Các biểu đồ sau là đầu ra
6. Mạng nơ ron nhiều lớp
Trong ví dụ này, mình đang tạo một mạng nơ-ron nhiều lớp gồm có nhiều hơn một lớp để trích xuất những mẫu cơ bản trong tài liệu giảng dạy. Mạng nơ-ron nhiều lớp này sẽ hoạt động giải trí giống như một bộ hồi quy. Chúng tôi sẽ tạo 1 số ít điểm tài liệu dựa trên phương trình : y = 2 x ^ 2 + 8 .
import numpy as np
import matplotlib.pyplot as plt
import neurolab as nl
Tạo một số ít điểm tài liệu dựa trên phương trình đã đề cập ở trên
min_val = -30
max_val = 30
num_points = 160
x = np.linspace(min_val, max_val, num_points)
y = 2 * np.square(x) + 8
y /= np.linalg.norm(y)
Bây giờ, hãy reshape lại tập dữ liệu này như sau :
data = x.reshape(num_points, 1)
labels = y.reshape(num_points, 1)
Visualize và vẽ tập dữ liệu nguồn vào như sau :
plt.figure()
plt.scatter(data, labels)
plt.xlabel('Dimension 1')
plt.ylabel('Dimension 2')
plt.title('Data-points')
Bây giờ, hãy kiến thiết xây dựng mạng nơ-ron có hai lớp ẩn với neurolab với mười nơ-ron ở lớp ẩn tiên phong, sáu ở lớp ẩn thứ hai và một ở lớp đầu ra .
neural_net = nl.net.newff([[min_val, max_val]], [10, 6, 1])
Sau đó ta sẽ sử dụng thuật toán gradient training
neural_net.trainf = nl.train.train_gd
Huấn luyện mạng với mục tiêu học tập dữ liệu được tạo như sau :
error = neural_net.train(data, labels, epochs = 1000, show = 100, goal = 0.01)
Khởi chạy mạng neural train tập dữ liệu training :
output = neural_net.sim(data)
y_pred = output.reshape(num_points)
plt.figure()
plt.plot(error)
plt.xlabel('Number of epochs')
plt.ylabel('Error')
plt.title('Training error progress')
Mình sẽ vẽ biểu đồ đầu ra thực tiễn so với Dự kiến
