❶ 超大規模數據是指什麼級的數據
所謂的「大規模數據集」,其實從不同的角度去審視可能含義都會不同。
比如說,對於一些打著「大數據」的旗號做宣傳的公司或者個人來說,但凡數據規模到了一定的量級,他們就可以無視數據質量、數據內容等要素,宣稱自己有了大規模數據集。這里的數據量級也不是定死的,可以是千億百億級,也可以是百萬甚至十萬級,全看當事人的解讀。
所以我想題主想問的一定不是這種含義的大規模數據集。
如果從機器學習的角度來看,大規模數據集應該指的是能夠為模型學習提供足夠支撐的數據。高質量的訓練數據如果足夠多,模型的收斂和過擬合抑制都可以得到相當程度的保證。因此,我認為大規模數據集應該至少有兩個維度的要求:一是規模,訓練數據的規模應該與模型適配,例如在深度學習的語境下,數據的規模與模型參數的規模有比較強的數量關聯(個人建議至少2到10倍於參數量);二是質量,很難想像一個充滿雜訊甚至格式千差萬別的數據集能夠訓練出什麼好的模型來。因此,數據的提純和清洗是非常關鍵的,也是數據挖掘和機器學習方向從業者必須首先具備的素質。