QuerySet
可切片
使用Python 的切片語法來限制查詢集記錄的數目?。它等同于SQL 的LIMIT?和OFFSET?子句。
1 | >>> Entry.objects. all ()[:5]????? # (LIMIT?5) |
>>> Entry.objects.all()[5:10] # (OFFSET?5?LIMIT?5)
不支持負的索引(例如Entry.objects.all()[-1])。通常,查詢集?的切片返回一個新的查詢集?—— 它不會執行查詢。
可迭代
articleList=models.Article.objects.all()for article in articleList:print(article.title)
惰性查詢
查詢集?是惰性執行的 —— 創建查詢集不會帶來任何數據庫的訪問。你可以將過濾器保持一整天,直到查詢集?需要求值時,Django 才會真正運行這個查詢。
1 2 3 4 5 6 | queryResult=models.Article.objects. all () #? not ?hits? database print(queryResult) # hits? database for ?article? in ?queryResult: ???? print(article.title)??? # hits? database |
?一般來說,只有在“請求”查詢集?的結果時才會到數據庫中去獲取它們。當你確實需要結果時,查詢集?通過訪問數據庫來求值。?關于求值發生的準確時間,參見何時計算查詢集。
緩存機制
每個查詢集都包含一個緩存來最小化對數據庫的訪問。理解它是如何工作的將讓你編寫最高效的代碼。
在一個新創建的查詢集中,緩存為空。首次對查詢集進行求值 —— 同時發生數據庫查詢 ——Django 將保存查詢的結果到查詢集的緩存中并返回明確請求的結果(例如,如果正在迭代查詢集,則返回下一個結果)。接下來對該查詢集?的求值將重用緩存的結果。
請牢記這個緩存行為,因為對查詢集使用不當的話,它會坑你的。例如,下面的語句創建兩個查詢集,對它們求值,然后扔掉它們:
1 2 | print([a.title? for ?a? in ?models.Article.objects. all ()]) print([a.create_time? for ?a? in ?models.Article.objects. all ()]) |
這意味著相同的數據庫查詢將執行兩次,顯然倍增了你的數據庫負載。同時,還有可能兩個結果列表并不包含相同的數據庫記錄,因為在兩次請求期間有可能有Article被添加進來或刪除掉。為了避免這個問題,只需保存查詢集并重新使用它:
1 2 3 | queryResult=models.Article.objects. all () print([a.title? for ?a? in ?queryResult]) print([a.create_time? for ?a? in ?queryResult]) |
何時查詢集不會被緩存?
查詢集不會永遠緩存它們的結果。當只對查詢集的部分進行求值時會檢查緩存, 如果這個部分不在緩存中,那么接下來查詢返回的記錄都將不會被緩存。所以,這意味著使用切片或索引來限制查詢集將不會填充緩存。
例如,重復獲取查詢集對象中一個特定的索引將每次都查詢數據庫:
1 2 3 | >>> queryset? = ?Entry.objects. all () >>>? print ?queryset[ 5 ]? # Queries the database >>>? print ?queryset[ 5 ]? # Queries the database again |
然而,如果已經對全部查詢集求值過,則將檢查緩存:
1 2 3 4 | >>> queryset? = ?Entry.objects. all () >>> [entry? for ?entry? in ?queryset]? # Queries the database >>>? print ?queryset[ 5 ]? # Uses cache >>>? print ?queryset[ 5 ]? # Uses cache |
下面是一些其它例子,它們會使得全部的查詢集被求值并填充到緩存中:
1 2 3 4 | >>> [entry? for ?entry? in ?queryset] >>>? bool (queryset) >>> entry? in ?queryset >>>? list (queryset) |
注:簡單地打印查詢集不會填充緩存。
exists()與iterator()方法
exists:
簡單的使用if語句進行判斷也會完全執行整個queryset并且把數據放入cache,雖然你并不需要這些 數據!為了避免這個,可以用exists()方法來檢查是否有數據:
if queryResult.exists():#SELECT (1) AS "a" FROM "blog_article" LIMIT 1; args=()print("exists...")
iterator:
當queryset非常巨大時,cache會成為問題。
處理成千上萬的記錄時,將它們一次裝入內存是很浪費的。更糟糕的是,巨大的queryset可能會鎖住系統 進程,讓你的程序瀕臨崩潰。要避免在遍歷數據的同時產生queryset cache,可以使用iterator()方法 來獲取數據,處理完數據就將其丟棄。
objs = Book.objects.all().iterator() # iterator()可以一次只從數據庫獲取少量數據,這樣可以節省內存 for obj in objs:print(obj.title) #BUT,再次遍歷沒有打印,因為迭代器已經在上一次遍歷(next)到最后一次了,沒得遍歷了 for obj in objs:print(obj.title)
當然,使用iterator()方法來防止生成cache,意味著遍歷同一個queryset時會重復執行查詢。所以使 #用iterator()的時候要當心,確保你的代碼在操作一個大的queryset時沒有重復執行查詢。
總結:
queryset的cache是用于減少程序對數據庫的查詢,在通常的使用下會保證只有在需要的時候才會查詢數據庫。 使用exists()和iterator()方法可以優化程序對內存的使用。不過,由于它們并不會生成queryset cache,可能 會造成額外的數據庫查詢。
中介模型
處理類似搭配 pizza 和 topping 這樣簡單的多對多關系時,使用標準的ManyToManyField? 就可以了。但是,有時你可能需要關聯數據到兩個模型之間的關系上。
例如,有這樣一個應用,它記錄音樂家所屬的音樂小組。我們可以用一個ManyToManyField?表示小組和成員之間的多對多關系。但是,有時你可能想知道更多成員關系的細節,比如成員是何時加入小組的。
對于這些情況,Django 允許你指定一個中介模型來定義多對多關系。?你可以將其他字段放在中介模型里面。源模型的ManyToManyField?字段將使用through?參數指向中介模型。對于上面的音樂小組的例子,代碼如下:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 | from ?django.db? import ?models class ?Person(models.Model): ???? name? = ?models.CharField(max_length = 128 ) ???? def ?__str__( self ):?????????????? # __unicode__ on Python 2 ???????? return ?self .name class ?Group(models.Model): ???? name? = ?models.CharField(max_length = 128 ) ???? members? = ?models.ManyToManyField(Person, through = 'Membership' ) ???? def ?__str__( self ):?????????????? # __unicode__ on Python 2 ???????? return ?self .name class ?Membership(models.Model): ???? person? = ?models.ForeignKey(Person) ???? group? = ?models.ForeignKey(Group) ???? date_joined? = ?models.DateField() ???? invite_reason? = ?models.CharField(max_length = 64 ) |
既然你已經設置好ManyToManyField?來使用中介模型(在這個例子中就是Membership),接下來你要開始創建多對多關系。你要做的就是創建中介模型的實例:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 | >>> ringo? = ?Person.objects.create(name = "Ringo Starr" ) >>> paul? = ?Person.objects.create(name = "Paul McCartney" ) >>> beatles? = ?Group.objects.create(name = "The Beatles" ) >>> m1? = ?Membership(person = ringo, group = beatles, ...???? date_joined = date( 1962 ,? 8 ,? 16 ), ...???? invite_reason = "Needed a new drummer." ) >>> m1.save() >>> beatles.members. all () [<Person: Ringo Starr>] >>> ringo.group_set. all () [<Group: The Beatles>] >>> m2? = ?Membership.objects.create(person = paul, group = beatles, ...???? date_joined = date( 1960 ,? 8 ,? 1 ), ...???? invite_reason = "Wanted to form a band." ) >>> beatles.members. all () [<Person: Ringo Starr>, <Person: Paul McCartney>] |
與普通的多對多字段不同,你不能使用add、?create和賦值語句(比如,beatles.members?=?[...])來創建關系:
1 2 3 4 5 6 | # THIS WILL NOT WORK >>> beatles.members.add(john) # NEITHER WILL THIS >>> beatles.members.create(name = "George Harrison" ) # AND NEITHER WILL THIS >>> beatles.members? = ?[john, paul, ringo, george] |
為什么不能這樣做??這是因為你不能只創建?Person和?Group之間的關聯關系,你還要指定?Membership模型中所需要的所有信息;而簡單的add、create?和賦值語句是做不到這一點的。所以它們不能在使用中介模型的多對多關系中使用。此時,唯一的辦法就是創建中介模型的實例。
?remove()方法被禁用也是出于同樣的原因。但是clear()?方法卻是可用的。它可以清空某個實例所有的多對多關系:
1 2 3 4 5 | >>>? # Beatles have broken up >>> beatles.members.clear() >>>? # Note that this deletes the intermediate model instances >>> Membership.objects. all () [] |
查詢優化
表數據
select_related
簡單使用
對于一對一字段(OneToOneField)和外鍵字段(ForeignKey),可以使用select_related 來對QuerySet進行優化。
select_related?返回一個QuerySet,當執行它的查詢時它沿著外鍵關系查詢關聯的對象的數據。它會生成一個復雜的查詢并引起性能的損耗,但是在以后使用外鍵關系時將不需要數據庫查詢。
簡單說,在對QuerySet使用select_related()函數后,Django會獲取相應外鍵對應的對象,從而在之后需要的時候不必再查詢數據庫了。
下面的例子解釋了普通查詢和select_related()?查詢的區別。
查詢id=2的文章的分類名稱,下面是一個標準的查詢:
1 2 3 4 5 | # Hits the database. article = models.Article.objects.get(nid = 2 ) # Hits the database again to get the related Blog object. print (article.category.title) |
?如果我們使用select_related()函數:
1 2 3 4 5 6 7 | articleList=models.Article.objects.select_related( "category" ). all () ???? for ?article_obj? in ?articleList: ???????? #? Doesn't hit the? database , because article_obj.category ???????? #? has been prepopulated? in ?the previous query. ???????? print(article_obj.category.title) |
多外鍵查詢
這是針對category的外鍵查詢,如果是另外一個外鍵呢?讓我們一起看下:
1 2 | article=models.Article.objects.select_related( "category" ).get(nid=1) print(article.articledetail) |
?觀察logging結果,發現依然需要查詢兩次,所以需要改為:
1 2 | article=models.Article.objects.select_related( "category" , "articledetail" ).get(nid=1) print(article.articledetail) |
?或者:
article=models.Article.objects
.select_related("category")
.select_related("articledetail")
.get(nid=1) # django 1.7 支持鏈式操作 print(article.articledetail)
?
深層查詢
1 2 3 4 | # 查詢id=1的文章的用戶姓名 ???? article=models.Article.objects.select_related( "blog" ).get(nid=1) ???? print(article.blog. user .username) |
?依然需要查詢兩次:
?這是因為第一次查詢沒有query到userInfo表,所以,修改如下:
1 2 | article=models.Article.objects.select_related( "blog__user" ).get(nid=1) print(article.blog. user .username) |
總結
- select_related主要針一對一和多對一關系進行優化。
- select_related使用SQL的JOIN語句進行優化,通過減少SQL查詢的次數來進行優化、提高性能。
- 可以通過可變長參數指定需要select_related的字段名。也可以通過使用雙下劃線“__”連接字段名來實現指定的遞歸查詢。
- 沒有指定的字段不會緩存,沒有指定的深度不會緩存,如果要訪問的話Django會再次進行SQL查詢。
- 也可以通過depth參數指定遞歸的深度,Django會自動緩存指定深度內所有的字段。如果要訪問指定深度外的字段,Django會再次進行SQL查詢。
- 也接受無參數的調用,Django會盡可能深的遞歸查詢所有的字段。但注意有Django遞歸的限制和性能的浪費。
- Django >= 1.7,鏈式調用的select_related相當于使用可變長參數。Django < 1.7,鏈式調用會導致前邊的select_related失效,只保留最后一個。
prefetch_related()
對于多對多字段(ManyToManyField)和一對多字段,可以使用prefetch_related()來進行優化。
prefetch_related()和select_related()的設計目的很相似,都是為了減少SQL查詢的數量,但是實現的方式不一樣。后者是通過JOIN語句,在SQL查詢內解決問題。但是對于多對多關系,使用SQL語句解決就顯得有些不太明智,因為JOIN得到的表將會很長,會導致SQL語句運行時間的增加和內存占用的增加。若有n個對象,每個對象的多對多字段對應Mi條,就會生成Σ(n)Mi 行的結果表。
prefetch_related()的解決方法是,分別查詢每個表,然后用Python處理他們之間的關系。
1 2 3 4 5 | # 查詢所有文章關聯的所有標簽 ???? article_obj=models.Article.objects. all () ???? for ?i? in ?article_obj: ???????? print(i.tags. all ())? #4篇文章: hits? database ?5 |
改為prefetch_related:
1 2 3 4 5 | # 查詢所有文章關聯的所有標簽 ???? article_obj=models.Article.objects.prefetch_related( "tags" ). all () ???? for ?i? in ?article_obj: ???????? print(i.tags. all ())? #4篇文章: hits? database ?2 |
extra
extra(select=None, where=None, params=None,
tables=None, order_by=None, select_params=None)
有些情況下,Django的查詢語法難以簡單的表達復雜的?WHERE?子句,對于這種情況, Django 提供了?extra()?QuerySet修改機制 — 它能在?QuerySet生成的SQL從句中注入新子句
extra可以指定一個或多個?參數,例如?select,?where?or?tables.?這些參數都不是必須的,但是你至少要使用一個!要注意這些額外的方式對不同的數據庫引擎可能存在移植性問題.(因為你在顯式的書寫SQL語句),除非萬不得已,盡量避免這樣做
參數之select
The?select?參數可以讓你在?SELECT?從句中添加其他字段信息,它應該是一個字典,存放著屬性名到 SQL 從句的映射。
queryResult=models.Article
.objects.extra(select={'is_recent': "create_time > '2017-09-05'"})
結果集中每個 Entry 對象都有一個額外的屬性is_recent, 它是一個布爾值,表示 Article對象的create_time 是否晚于2017-09-05.
練習:
# in sqlite:article_obj=models.Article.objects
.filter(nid=1)
.extra(select={"standard_time":"strftime('%%Y-%%m-%%d',create_time)"})
.values("standard_time","nid","title")print(article_obj)# <QuerySet [{'title': 'MongoDb 入門教程', 'standard_time': '2017-09-03', 'nid': 1}]>
參數之where?/?tables
您可以使用where定義顯式SQL?WHERE子句 - 也許執行非顯式連接。您可以使用tables手動將表添加到SQL?FROM子句。
where和tables都接受字符串列表。所有where參數均為“與”任何其他搜索條件。
舉例來講:
queryResult=models.Article
.objects.extra(where=['nid in (1,3) OR title like "py%" ','nid>2'])
整體插入
創建對象時,盡可能使用bulk_create()來減少SQL查詢的數量。例如:
Entry.objects.bulk_create([Entry(headline="Python 3.0 Released"),Entry(headline="Python 3.1 Planned")
])
...更優于:
Entry.objects.create(headline="Python 3.0 Released")
Entry.objects.create(headline="Python 3.1 Planned")
注意該方法有很多注意事項,所以確保它適用于你的情況。
這也可以用在ManyToManyFields中,所以:
my_band.members.add(me, my_friend)
...更優于:
my_band.members.add(me)
my_band.members.add(my_friend)
...其中Bands和Artists具有多對多關聯。