电脑知识|欧美黑人一区二区三区|软件|欧美黑人一级爽快片淫片高清|系统|欧美黑人狂野猛交老妇|数据库|服务器|编程开发|网络运营|知识问答|技术教程文章 - 好吧啦网

您的位置:首頁技術文章
文章詳情頁

利用Python實現最小二乘法與梯度下降算法

瀏覽:105日期:2022-06-27 13:47:15
導入所需庫

%matplotlib inlineimport sympyimport numpy as npimport matplotlib.pyplot as pltfrom sympy.abc import x as a,y as b生成模擬數據

# 模擬函數 y=3x-1#自變量x=np.linspace(-5,5,num=1000)#加入噪聲noise=np.random.rand(len(x))*2-1#因變量y=3*x-1+noise查看所生成數據的圖像

plt.figure(figsize=(10,10))plt.scatter(x,y,s=1)

利用Python實現最小二乘法與梯度下降算法

求代價函數的偏導

y=ax+b #目標函數e=1/2*Σ([axi+b]-yi)^2 #代價函數,求使得代價函數為最小值時,對應的a和b對a求偏導->Σ(axi+b-yi)*xi對b求偏導->Σ(axi+b-yi)1. 通過最小二乘法求a,b

我們知道當在a,b處的偏導為0時,代價函數e達到最小值,所以得到二元一次方程組

Σ(axi+b-yi)*xi=0Σ(axi+b-yi)=0

該方程組是關于未知數為a,b的二元一次方程組,通過求解該方程,得到a,b

result=sympy.solve([ np.sum((a*x+b-y)*x), np.sum(a*x+b-y)],[a,b])print(result)#{x: 3.01182977621975, y: -1.00272253325765}

通過sympy庫解方程組,得出了a= 3.01182977621975,b= -1.00272253325765,已經與我們真實的a,b很接近了,下面進行作圖

plt.figure(figsize=(10,10))plt.scatter(x,y,s=1)plt.plot(x,result[a]*x+result[b],c=’red’)print(type(a),type(b))#<class ’sympy.core.symbol.Symbol’> <class ’sympy.core.symbol.Symbol’>

利用Python實現最小二乘法與梯度下降算法

2. 通過梯度下降算法求a,b

我們注意到最小二乘法最后一步要求p個方程組,是非常大的計算量,其實計算起來很難,因此我們就有了一種新的計算方法,就是梯度下降法,梯度下降法可以看作是 更簡單的一種 求最小二乘法最后一步解方程 的方法

# 注意這里覆蓋了sympy.abc的a和b# 設定a和b的起始點a,b=0.1,0.1#步長,也稱作學習率alpha=0.00001#循環一千次結束for i in range(1000): a-=alpha*np.sum((a*x+b-y)*x) b-=alpha*np.sum(a*x+b-y)print(a,b)#3.0118297762197526 -1.002674927350334

通過梯度下降法,得出了a= 3.0118297762197526,b= -1.002674927350334,也是很接近真實的a,b值了,作圖看看

plt.figure(figsize=(10,10))plt.scatter(x,y,s=1)plt.plot(x,a*x+b,c=’black’)print(type(a),type(b))#<class ’numpy.float64’> <class ’numpy.float64’>

利用Python實現最小二乘法與梯度下降算法

到此這篇關于利用Python實現最小二乘法與梯度下降算法的文章就介紹到這了,更多相關Python最小二乘法與梯度下降內容請搜索好吧啦網以前的文章或繼續瀏覽下面的相關文章希望大家以后多多支持好吧啦網!

標簽: Python 編程
相關文章:
主站蜘蛛池模板: 耐磨陶瓷管道_除渣器厂家-淄博浩瀚陶瓷科技有限公司 | 洗砂机械-球磨制砂机-洗沙制砂机械设备_青州冠诚重工机械有限公司 | 点焊机-缝焊机-闪光对焊机-电阻焊设备生产厂家-上海骏腾发智能设备有限公司 | 广州小程序开发_APP开发公司_分销商城系统定制_小跑科技 | 医学动画公司-制作3d医学动画视频-医疗医学演示动画制作-医学三维动画制作公司 | 硬度计,金相磨抛机_厂家-莱州华煜众信试验仪器有限公司 | 淘剧影院_海量最新电视剧,免费高清电影随心观看 | 紫外线老化试验箱_uv紫外线老化试验箱价格|型号|厂家-正航仪器设备 | 预制舱-电力集装箱预制舱-模块化预制舱生产厂家-腾达电器设备 | 304不锈钢无缝管_不锈钢管厂家 - 隆达钢业集团有限公司 | 辐射仪|辐射检测仪|辐射巡测仪|个人剂量报警仪|表面污染检测仪|辐射报警仪|辐射防护网 | 金属雕花板_厂家直销_价格低-山东慧诚建筑材料有限公司 | HEYL硬度计量泵-荧光法在线溶解氧仪-净时测控技术(上海)有限公司 | 警用|治安|保安|不锈钢岗亭-售货亭价格-垃圾分类亭-移动厕所厂家-苏州灿宇建材 | 生物风-销售载体,基因,质粒,ATCC细胞,ATCC菌株等,欢迎购买-百风生物 | 天津电机维修|水泵维修-天津晟佳机电设备有限公司 | 气体热式流量计-定量控制流量计(空气流量计厂家)-湖北南控仪表科技有限公司 | 无压烧结银_有压烧结银_导电银胶_导电油墨_导电胶-善仁(浙江)新材料 | 滚筒烘干机_转筒烘干机_滚筒干燥机_转筒干燥机_回转烘干机_回转干燥机-设备生产厂家 | 鹤壁创新仪器公司-全自动量热仪,定硫仪,煤炭测硫仪,灰熔点测定仪,快速自动测氢仪,工业分析仪,煤质化验仪器 | 消电检公司,消电检价格,北京消电检报告-北京设施检测公司-亿杰(北京)消防工程有限公司 | 污水处理设备,一体化泵站,一体化净水设备-「梦之洁环保设备厂家」 | 环比机械 | 污泥烘干机-低温干化机-工业污泥烘干设备厂家-焦作市真节能环保设备科技有限公司 | 【北京写字楼出租_写字楼租赁_办公室出租网/出售】-远行地产官网 | 长沙印刷厂-包装印刷-画册印刷厂家-湖南省日大彩色印务有限公司 青州搬家公司电话_青州搬家公司哪家好「鸿喜」青州搬家 | 合肥仿石砖_合肥pc砖厂家_合肥PC仿石砖_安徽旭坤建材有限公司 | 防渗膜厂家|养殖防渗膜|水产养殖防渗膜-泰安佳路通工程材料有限公司 | 越南专线物流_东莞国际物流_东南亚专线物流_行通物流 | 垃圾压缩设备_垃圾处理设备_智能移动式垃圾压缩设备--山东明莱环保设备有限公司 | 润滑脂-高温润滑脂-轴承润滑脂-食品级润滑油-索科润滑油脂厂家 | 国产液相色谱仪-超高效液相色谱仪厂家-上海伍丰科学仪器有限公司 | 办公室装修_上海办公室设计装修_时尚办公新主张-后街印象 | 混合气体腐蚀试验箱_盐雾/硫化氢/气体腐蚀试验箱厂家-北京中科博达 | 新疆系统集成_新疆系统集成公司_系统集成项目-新疆利成科技 | 冷却塔风机厂家_静音冷却塔风机_冷却塔电机维修更换维修-广东特菱节能空调设备有限公司 | 骨密度仪-骨密度测定仪-超声骨密度仪-骨龄测定仪-天津开发区圣鸿医疗器械有限公司 | 土壤养分检测仪|土壤水分|土壤紧实度测定仪|土壤墒情监测系统-土壤仪器网 | 压力变送器-上海武锐自动化设备有限公司 | 撕碎机,撕破机,双轴破碎机-大件垃圾破碎机厂家| 硬度计_影像测量仪_维氏硬度计_佛山市精测计量仪器设备有限公司厂家 |