Ako sa dostať na zoznam spoločných priateľov medzi každú dvojicu priateľov v sieti pomocou pyspark

Question 1

Mám tri záznamy, ako je tento [('a1', ['b1', 'c1', 'd1', 'e1']), ('a2', ['b1', 'c2', 'd2', 'e1']),('a3', ['b1', 'c2', 'd1', 'e2'])] obsahujúce id na tlačidle ako zoznam hodnôt pre každú klávesu.

Chcem získať celkový počet hodnôt v zozname, pre každý kľúč v pyspark.
Ako môžem získať zoznam spoločných priateľov medzi každú dvojicu diablov v pyspark.

Question 2

1 Jednoducho použite size funkcia.

df = df.withColumn('num_friends', F.expr('size(friends)'))

2 Pomocou array_intersect funkcia dostať križovatke polia.

cp_df = df.toDF('key_pair', 'friends_pair')
cross_df = df.crossJoin(cp_df).filter('key!=key_pair')
cross_df = cross_df.select(F.create_map('key', 'key_pair').alias('key_pair'),
                           F.array_intersect('friends', 'friends_pair').alias('common_friends'))
cross_df.show(truncate=False)

过过招 · Answer 1 · 2021-11-24T02:39:00

1 Jednoducho použite size funkcia.

df = df.withColumn('num_friends', F.expr('size(friends)'))

2 Pomocou array_intersect funkcia dostať križovatke polia.

cp_df = df.toDF('key_pair', 'friends_pair')
cross_df = df.crossJoin(cp_df).filter('key!=key_pair')
cross_df = cross_df.select(F.create_map('key', 'key_pair').alias('key_pair'),
                           F.array_intersect('friends', 'friends_pair').alias('common_friends'))
cross_df.show(truncate=False)

Ako sa dostať na zoznam spoločných priateľov medzi každú dvojicu priateľov v sieti pomocou pyspark

Otázka

Najlepšiu odpoveď

V iných jazykoch

Táto stránka je v iných jazykoch

Populárne v tejto kategórii

Obľúbené otázky v tejto kategórii