首页 文章

scala数据帧到RDD [array [String]]

提问于
浏览 次
-1

如何转换具有多列的数据帧我可以获得RDD [org.apache.spark.sql.Row]，但我需要一些我可以用于org.apache.spark.mllib.fpm.FPGrowth，ei RDD [Array] [String]]如何转换？

df.head
org.apache.spark.sql.Row = [blabla,128323,23843,11.23,blabla,null,null,..]

df.printSchema    
 |-- source: string (nullable = true)
 |-- b1: string (nullable = true)
 |-- b2: string (nullable = true)
 |-- b3: long (nullable = true)
 |-- amount: decimal(30,2) (nullable = true)
and so on

谢谢

scala apache-spark

1 回答

  • 5

    问题很模糊，但一般来说，您可以通过Sequence将RDD从Row更改为Array . 以下代码将获取RDD中的所有列，将它们转换为字符串，并将它们作为数组返回 .

    df.first
res1: org.apache.spark.sql.Row = [blah1,blah2]
df.map { _.toSeq.map {_.toString}.toArray }.first
res2: Array[String] = Array(blah1, blah2)

    然而，这可能不足以让它以你想要的方式使用MLib，因为你没有提供足够的细节，但这是一个开始 .

    回复于

相关问题