1ambda · January 2, 2022 01:52
diff --git a/spark-cache.py b/spark-cache.py
 dfInitial = spark.read(...)

 dfFiltered = dfInitial.select(...).where(..).cache() # 캐시 호출
 dfJoined = (...)

 # action 호출
 # Transformation 이 실행되며 dfFiltered 를 계산후 
 # dfFiltered 를 여러대 나눠진 Executor 에서 메모리에 캐싱
 dfJoined.write(...)
	dfInitial = spark.read(...)

	dfFiltered = dfInitial.select(...).where(..).cache() # 캐시 호출
	dfJoined = (...)

	# action 호출
	# Transformation 이 실행되며 dfFiltered 를 계산후
	# dfFiltered 를 여러대 나눠진 Executor 에서 메모리에 캐싱
	dfJoined.write(...)