什么是kNN（k-Nearest Neighbors）算法？-数智化转型网szhzxw.cn

数字化转型网数据专题将关注数据治理、数据质量管理、数据架构、主数据管理、数据仓库、元数据管理、数据备份、数据挖掘、数据分析、数据安全、大数据、数据合规、等数据相关全产业链相关环节。

原理：kNN 是一种基于实例的学习，或者说是非参数学习。对于一个新的样本，它根据在训练集中离该样本最近的 k 个样本的类别来进行分类或回归。数字化转型网www.szhzxw.cn

训练过程：kNN 算法实际上没有显式的训练过程，它只是在训练阶段存储所有样本。在预测时，计算新样本与所有训练样本的距离，并选择最近的 k 个样本进行投票（分类）或平均（回归）。

优点：简单直观，无需参数估计，无需训练。

缺点：计算量大，尤其是当数据集很大时；对数据的尺度敏感；需要选择合适的 k 值。

适用场景：适用于样本数量不大且特征维度不高的分类或回归问题。

Python 示例代码：

from sklearn.datasets import load_iris数字化转型网www.szhzxw.cn
from sklearn.model_selection import train_test_split
from sklearn.neighbors import KNeighborsClassifier
from sklearn.metrics import accuracy_score

# 加载iris数据集
iris = load_iris()
X = iris.data
y = iris.target

# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

# 初始化kNN分类器
knn_clf = KNeighborsClassifier(n_neighbors=3)数字化转型网www.szhzxw.cn

# 训练kNN分类器
knn_clf.fit(X_train, y_train)

# 预测
y_pred = knn_clf.predict(X_test)

# 计算准确率
accuracy = accuracy_score(y_test, y_pred)
print(f”Accuracy: {accuracy}”)