㈠ python pickle.mp ()不知道mp多少次,如何才能從文件中完整的pickle.load()到所有數據
什麼叫不知道mp多少次.。。。。
mp一次之後,就可以直接全部load進來啊
importpickle
importtime
#timmercode
start=time.clock()
#realcode
db={};
foriinrange(4000000):
db[str(i)]=str(i)
f=open("pickle.db","wb");
pickle.mp(db,f)
f.close()
#timmercode
end=time.clock()
print"write:%fs"%(end-start)
start=time.clock()
f=open("pickle.db","rb")
db=pickle.load(f)
foriindb:
ifint(i)%1000000==0:
printi,db[i]
f.close()
end=time.clock()
print"read:%fs"%(end-start)
㈡ python中,怎麼將大量數據一次性導入資料庫中。 補充:資料庫是Mysql資料庫
我估計你是問怎麼從文件導入到資料庫。一般每個資料庫都有一個從文件直接load數據到資料庫的命令或者工具。
比如SQLServer 有個bcp。 MySql 就是 load。
給你搜了詳細的幫助。看看鏈接吧。以下是精簡的使用方法:
基本用法:
mysql> USE db1;
mysql> LOAD DATA INFILE "./data.txt" INTO TABLE db2.my_table;
指定行,欄位的分隔符:
mysql> LOAD DATA INFILE 'data.txt' INTO TABLE tbl_name
FIELDS TERMINATED BY ',' ENCLOSED BY '"'
LINES TERMINATED BY '\n';
㈢ python值大於0的數據保存
python值大於0的數據保存方法:
1、用numpy.save()和numpy.load()函數。
2、用scipy.io.savemat()將數據保存為.mat格式。Python是一種跨平台的計算機程序設計語言,是ABC語言的替代品,屬於面向對象的動態類型語言,最初被設計用於編寫自動化腳本,隨著版本的不斷更新和語言新功能的添加,越來越多被用於獨立的、大型項目的開發。python是人工智慧首選的編程語言。
㈣ 從資料庫里python獲取數據存到本地資料庫
python項目中從介面獲取數據並存入本地資料庫
首先用postman測試介面
根據請求方式將數據存入資料庫中
首先用postman測試介面
通過url,選擇相應的請求方式,頭部,數據格式,點擊send看能否獲取數據
根據請求方式將數據存入資料庫中
下面是post請求方式def get() URL = '' HEADERS = {'Content-Type': 'application/json'} JSON = {} response = request.post(URL,headers=HEADERS,json=JSON) #json.loads()用於將str類型的數據轉成dict jsondata = json.load(response.txt) for i in jsondata: date1 = i[data] type1 = i[type] ... #拼接sql語句 sql="" conn=MySQLdb.connect(host="localhost",user="root",passwd="sa",db="mytable") cursor=conn.cursor() ursor.execute(sql)
㈤ 用python操作excel數據之避坑秘技
用python操作excel表裡的數據非常方便,可以把不同報表,不同類型的數據各種乾坤大挪移,匯集到一起進行展示。但初學者可能會遇到一些大坑,百思不得其解,而不得不放棄這個神器。現把我在自學過程中遇到的一些坑與大家分享,給初學者參考,歡迎批評指正!
坑一:用pandas的to_excel寫入EXCEL時,會把原數據清空。
解決方案:先用openpyxl的load_workbook打開工作薄,再用pandas的ExcelWriter新建寫入器,把之前打開的工作薄賦值給寫入器的工作薄。
坑二:把帶有公式的sheet1數據導入再寫入sheet2時,會發現帶公式的數據全部為空。
解決方案:可用win32com.client中的Dispatch把EXCEL表打開再保存。
坑三:當把復制文件,新建文件,打開保存文件,數據寫入都寫在一個程序時,往往由於EXCEL打開保存時間較長而與後續程序沖突報錯。
解決方案:每個環節建模塊順序執行,各環節間用time.sleep隔開。
㈥ python numpy 使用 loadtxt讀取txt文件的內容,txt文件跟要執行的py文件在
很多時候,我們將數據存在txt或者csv格式的文件里,最後再用Python讀取出來,存到數組或者列表裡,再做相應計算。本文首先介紹寫入txt的方法,再根據不同的需求(存為數組還是list),介紹從txt讀取浮點數的方法。
一、寫入浮點數到txt文件:
假設每次有兩個浮點數需要寫入txt文件,這里提供用with關鍵字打開文件的方法,使用with打開文件是一個很好的習慣,因為with結束,它就會自動close file,不用手動再去flie.close()。
[python] view plain
with open('file_path/filename.txt','a') as file:
write_str = '%f %f\n'%(float_data1,float_data2)
file.write(write_str)
二、從txt文件提取浮點數到numpy數組或list列表
首先假設你有一個odom.txt 的文件,裡面每一行的數據個數都相同,如截圖所示:
1.如果你是想把這些數據讀取出來,存為numpy數組,那麼一句代碼可以搞定:
[python] view plain
a = numpy.loadtxt('odom.txt')
存為numpy數組以後,a的尺寸可以用a.shape進行查看,這里應為:(14,2)也就是14行2列。如果你覺得這個形狀不是你期待的,你可以用:
[python] view plain
b = numpy.reshape(a,(你想要的形狀))
如
b = numpy.reshape(a,(-1,1,2))
那麼b就是一個三維數組了(14,1,2)
2.如果只是想讀出來,存到一個list里,那就用下面的常用python格式了:
[python] view plain
with open('odom.txt', 'r') as f:
data = f.readlines() #txt中所有字元串讀入data
for line in data:
odom = line.split() #將單個數據分隔開存好
numbers_float = map(float, odom) #轉化為浮點數
print numbers_float
㈦ 怎麼用python完成以下內容
答: 首先本題分為兩個內容,第1個創建10X10的隨機數組,並將其存儲到 Txt文件中,其次再將其讀出進行相關統計分析。具體代碼如下所示。
㈧ python3中如何用load_data()載入文件
def load_data()括弧里應該寫形參的名字,比如def load_data(filePath);
load_data函數內的open的參數也應該是open(filePath,encoding="UTF-8")
dataset=load_data()括弧中寫需要解析的文件路徑
㈨ python讀取文件—txt文件常用讀寫操作
f = open("data.txt","r") #設置文件對象
f.close() #關閉文件
為了方便,避免忘記close掉這個文件對象,可以用下面這種方式替代
with open('data.txt',"r") as f: #設置文件對象
str = f.read() #可以是隨便對文件的操作
f = open("data.txt","r") #設置文件對象
str = f.read() #將txt文件的所有內容讀入到字元串str中
f.close() #將文件關閉
f = open("data.txt","r") #設置文件對象
line = f.readline()
line = line[:-1]
while line: #直到讀取完文件
line = f.readline() #讀取一行文件,包括換行符
line = line[:-1] #去掉換行符,也可以不去
f.close() #關閉文件
data = []
for line in open("data.txt","r"): #設置文件對象並讀取每一行文件
data.append(line) #將每一行文件加入到list中
f = open("data.txt","r") #設置文件對象
data = f.readlines() #直接將文件中按行讀到list里,效果與方法2一樣
f.close() #關閉文件
可以使用pandas的.read_csv,讀取文件的時候可以給每一列起名字,通過列名來調取相應列的數據。
import pandas as pd
data = pd.read_csv(" OSDO1012.txt",sep=',',header=None, names=['lat','lon','time','z']
使用data.lat就可以讀取名為lat這一列的數據
data = np.loadtxt("data.txt",skiprows = 1) #將文件中數據載入到data數組里,並且跳過第一行
with open('data.txt','w') as f: #設置文件對象
f.write(str) #將字元串寫入文件中
data = ['a','b','c']
單層列表寫入文件
with open("data.txt","w") as f:
f.writelines(data)
每一項用空格隔開,一個列表是一行寫入文件
data =[ ['a','b','c'],['a','b','c'],['a','b','c']]
with open("data.txt","w") as f: #設置文件對象
for i in data: #對於雙層列表中的數據
i = str(i).strip('[').strip(']').replace(',','').replace('\'','')+'\n' #將其中每一個列表規范化成字元串
f.write(i) #寫入文件
直接將每一項都寫入文件
data =[ ['a','b','c'],['a','b','c'],['a','b','c']]
with open("data.txt","w") as f: #設置文件對象
for i in data: #對於雙層列表中的數據
f.writelines(i) #寫入文件
np.savetxt("data.txt",data) #將數組中數據寫入到data.txt文件
np.save("data.txt",data) #將數組中數據寫入到data.txt文件
㈩ python numpy 使用 loadtxt讀取txt文件的內容,txt文件跟要執行的py文件在
a = np.arange(8)
np.savetxt('a.txt',a)
這樣就會在工作目錄下生成存有a數據的文件a.txt
然後讀取就行了,如
b=loadtxt('a.txt')
這里都是在同一目錄下進行的,如果是在別的文件夾,修改引號內的路徑就行了