电脑知识|欧美黑人一区二区三区|软件|欧美黑人一级爽快片淫片高清|系统|欧美黑人狂野猛交老妇|数据库|服务器|编程开发|网络运营|知识问答|技术教程文章 - 好吧啦网

您的位置:首頁技術文章
文章詳情頁

利用Python實現最小二乘法與梯度下降算法

瀏覽:103日期:2022-06-27 13:47:15
導入所需庫

%matplotlib inlineimport sympyimport numpy as npimport matplotlib.pyplot as pltfrom sympy.abc import x as a,y as b生成模擬數據

# 模擬函數 y=3x-1#自變量x=np.linspace(-5,5,num=1000)#加入噪聲noise=np.random.rand(len(x))*2-1#因變量y=3*x-1+noise查看所生成數據的圖像

plt.figure(figsize=(10,10))plt.scatter(x,y,s=1)

利用Python實現最小二乘法與梯度下降算法

求代價函數的偏導

y=ax+b #目標函數e=1/2*Σ([axi+b]-yi)^2 #代價函數,求使得代價函數為最小值時,對應的a和b對a求偏導->Σ(axi+b-yi)*xi對b求偏導->Σ(axi+b-yi)1. 通過最小二乘法求a,b

我們知道當在a,b處的偏導為0時,代價函數e達到最小值,所以得到二元一次方程組

Σ(axi+b-yi)*xi=0Σ(axi+b-yi)=0

該方程組是關于未知數為a,b的二元一次方程組,通過求解該方程,得到a,b

result=sympy.solve([ np.sum((a*x+b-y)*x), np.sum(a*x+b-y)],[a,b])print(result)#{x: 3.01182977621975, y: -1.00272253325765}

通過sympy庫解方程組,得出了a= 3.01182977621975,b= -1.00272253325765,已經與我們真實的a,b很接近了,下面進行作圖

plt.figure(figsize=(10,10))plt.scatter(x,y,s=1)plt.plot(x,result[a]*x+result[b],c=’red’)print(type(a),type(b))#<class ’sympy.core.symbol.Symbol’> <class ’sympy.core.symbol.Symbol’>

利用Python實現最小二乘法與梯度下降算法

2. 通過梯度下降算法求a,b

我們注意到最小二乘法最后一步要求p個方程組,是非常大的計算量,其實計算起來很難,因此我們就有了一種新的計算方法,就是梯度下降法,梯度下降法可以看作是 更簡單的一種 求最小二乘法最后一步解方程 的方法

# 注意這里覆蓋了sympy.abc的a和b# 設定a和b的起始點a,b=0.1,0.1#步長,也稱作學習率alpha=0.00001#循環一千次結束for i in range(1000): a-=alpha*np.sum((a*x+b-y)*x) b-=alpha*np.sum(a*x+b-y)print(a,b)#3.0118297762197526 -1.002674927350334

通過梯度下降法,得出了a= 3.0118297762197526,b= -1.002674927350334,也是很接近真實的a,b值了,作圖看看

plt.figure(figsize=(10,10))plt.scatter(x,y,s=1)plt.plot(x,a*x+b,c=’black’)print(type(a),type(b))#<class ’numpy.float64’> <class ’numpy.float64’>

利用Python實現最小二乘法與梯度下降算法

到此這篇關于利用Python實現最小二乘法與梯度下降算法的文章就介紹到這了,更多相關Python最小二乘法與梯度下降內容請搜索好吧啦網以前的文章或繼續瀏覽下面的相關文章希望大家以后多多支持好吧啦網!

標簽: Python 編程
相關文章:
主站蜘蛛池模板: 环比机械| 衡阳耐适防护科技有限公司——威仕盾焊接防护用品官网/焊工手套/焊接防护服/皮革防护手套 | 全自动变压器变比组别测试仪-手持式直流电阻测试仪-上海来扬电气 | 电动高尔夫球车|电动观光车|电动巡逻车|电动越野车厂家-绿友机械集团股份有限公司 | 江苏农村商业银行招聘网_2024江苏农商行考试指南_江苏农商行校园招聘 | 武汉森源蓝天环境科技工程有限公司-为环境污染治理提供协同解决方案 | pbootcms网站模板|织梦模板|网站源码|jquery建站特效-html5模板网 | 北京西风东韵品牌与包装设计公司,创造视觉销售力! | ptc_浴霸_大巴_干衣机_呼吸机_毛巾架_电动车加热器-上海帕克 | 小型气象站_车载气象站_便携气象站-山东风途物联网 | 一体化污水处理设备,一体化污水设备厂家-宜兴市福源水处理设备有限公司 | 【连江县榕彩涂料有限公司】官方网站 | 天然气分析仪-液化气二甲醚分析仪|传昊仪器 | 高扬程排污泵_隔膜泵_磁力泵_节能自吸离心水泵厂家-【上海博洋】 | 冷凝水循环试验箱-冷凝水试验箱-可编程高低温试验箱厂家-上海巨为(www.juweigroup.com) | 等离子表面处理机-等离子表面活化机-真空等离子清洗机-深圳市东信高科自动化设备有限公司 | 数显恒温油浴-电砂浴-高温油浴振荡器-常州迈科诺仪器有限公司 | 智能终端_RTU_dcm_北斗星空自动化科技| 周口市风机厂,周鼓风机,河南省周口市风机厂 | Dataforth隔离信号调理模块-信号放大模块-加速度振动传感器-北京康泰电子有限公司 | 金属雕花板_厂家直销_价格低-山东慧诚建筑材料有限公司 | 广东护栏厂家-广州护栏网厂家-广东省安麦斯交通设施有限公司 | 品牌策划-品牌设计-济南之式传媒广告有限公司官网-提供品牌整合丨影视创意丨公关活动丨数字营销丨自媒体运营丨数字营销 | 新能源汽车教学设备厂家报价[汽车教学设备运营18年]-恒信教具 | DNA亲子鉴定_DNA基因检测中心官方预约平台-严选好基因网 | 上海律师事务所_上海刑事律师免费咨询平台-煊宏律师事务所 | 一航网络-软件测评官网 | 密集架-密集柜厂家-智能档案密集架-自动选层柜订做-河北风顺金属制品有限公司 | 气动|电动调节阀|球阀|蝶阀-自力式调节阀-上海渠工阀门管道工程有限公司 | 早报网 | 广州展览设计公司_展台设计搭建_展位设计装修公司-众派展览装饰 广州展览制作工厂—[优简]直营展台制作工厂_展会搭建资质齐全 | 高压管道冲洗清洗机_液压剪叉式升降机平台厂家-林君机电 | 数控走心机-走心机价格-双主轴走心机-宝宇百科 | 恒温恒湿箱(药品/保健品/食品/半导体/细菌)-兰贝石(北京)科技有限公司 | 光环国际-新三板公司_股票代码:838504 | 成都竞价托管_抖音代运营_网站建设_成都SEM外包-成都智网创联网络科技有限公司 | 全自动固相萃取仪_高通量真空平行浓缩仪-勤业永为 | 水平筛厂家-三轴椭圆水平振动筛-泥沙震动筛设备_山东奥凯诺矿机 包装设计公司,产品包装设计|包装制作,包装盒定制厂家-汇包装【官方网站】 | 移动厕所租赁|移动卫生间|上海移动厕所租赁-家瑞租赁 | 银川美容培训-美睫美甲培训-彩妆纹绣培训-新娘化妆-学化妆-宁夏倍莱妮职业技能培训学校有限公司 临时厕所租赁_玻璃钢厕所租赁_蹲式|坐式厕所出租-北京慧海通 | 东莞螺杆空压机_永磁变频空压机_节能空压机_空压机工厂批发_深圳螺杆空压机_广州螺杆空压机_东莞空压机_空压机批发_东莞空压机工厂批发_东莞市文颖设备科技有限公司 |