讲解一下Python逻辑回归问题

树叶云

logistic回归又称logistic回归分析,是一种广义的线性回归分析模型,常用于数据挖掘,疾病自动诊断,经济预测等领域。例如,探讨引发疾病的危险因素,并根据危险因素预测疾病发生的概率等。

Logistic Regression Classifier逻辑回归主要思想就是用最大似然概率方法构建出方程,为最大化方程,利用牛顿梯度上升求解方程参数。

优点:计算代价不高,易于理解和实现。 缺点:容易欠拟合,分类精度可能不高。 使用数据类型:数值型和标称型数据。 好了,下面开始正文。

算法的思路我就不说了,我就提供一个万能模板,适用于任何纬度数据集。 虽然代码类似于梯度下降,但他是个分类算法

定义sigmoid函数

def sigmoid(x):
return 1/(1+np.exp(-x))

进行逻辑回归的参数设置以及迭代

def weights(x,y,alpha,thershold):
#初始化参数
m,n = x_train.shape
theta = np.random.rand(n) #参数
cnt = 0 # 迭代次数
max_iter = 50000
#开始迭代while cnt for i in range(m):
diff = (y[i]-sigmoid(theta.T @ x[i]))*x[i]
theta = theta + alpha * diff
if(abs(diff)
  
   break 
   return theta 
  

预测函数

def predict(x_test,theta):
if sigmoid(theta.T @ x_test)>0.5:
return 1
else:return 0

调用函数

x_train = np.array([[1,2.697,6.254],
[1,1.872,2.014],
[1,2.312,0.812],
[1,1.983,4.990],
[1,0.932,3.920],
[1,1.321,5.583],
[1,2.215,1.560],
[1,1.659,2.932],
[1,0.865,7.362],
[1,1.685,4.763],
[1,1.786,2.523]])
y_train = np.array([1,0,0,1,0,1,0,0,1,0,1])
alpha = 0.001 # 学习率
thershold = 0.01 # 指定一个阈值,用于检查两次误差print(weights(x_train,y_train,alpha,thershold))

文章来源网络,作者:运维,如若转载,请注明出处:https://shuyeidc.com/wp/219541.html<

(0)
运维的头像运维
上一篇2025-04-14 04:03
下一篇 2025-04-14 04:04

相关推荐

发表回复

您的邮箱地址不会被公开。必填项已用 * 标注