Tính biến dị di truyền có tầm quan trọng đặc biệt vì nó cho phép quần thể sinh vật thích nghi được với những biến đổi của môi trường. Biến dị di truyền xảy ra do các cá thể có những dạng gene khác nhau được gọi là allen. Các cá thể có thể có những allen nhất định hoặc tổ hợp của các allen mang những đặc điểm cần thiết cho phép chúng tồn tại và sinh sản trong những điều kiện mới. Trong một quần thể, một số allen nhất định có thể thay đổi tần số xuất hiện, từ dạng rất phổ biến cho đến rất hiếm. Các allen mới xuất hiện trong quần thể thông qua đột biến. Trong các quần thể nhỏ, tần số xuất hiện của các allen có thể thay đổi một cách ngẫu nhiên từ thế hệ này sang thế hệ khác mà điều này lại tùy thuộc vào cá thể được giao phối. Quá trình trên gọi là sự phân ly
gen (genetic drift). Khi một allen có tần suất xuất hiện thấp trong một quần thể nhỏ thì xác suất mất mát ngẫu nhiên trong từng thế hệ là đáng kể. Khi xem xét một ví dụ có tính lý thuyết về một quần thể cách ly mà trong đó có 2 allen trong một gen, Wright đã đưa ra phương trình biễu diễn khả năng giảm sút tính dị hợp tử (các cá thể có hai dạng allen khác nhau trên cùng một gen) trong một thế hệ (∆F) cho một quần thể các con trưởng thành đang sinh sản (Ne):
∆F =
Theo phương trình này, nếu quần thể gồm 50 cá thể thì mỗi thế hệ có thể giảm 1% tính dị hợp tử do mất đi những allen hiếm và nếu quần thể có 10 cá thể thì mỗi thế hệ sẽ giảm đi 5%. Phương tình trên cho thấy thuộc tính biến dị di truyền có thể mất đi một cách đáng kể trong những quần thể nhỏ và sống cách ly.
Các quần thể nhỏ mà có sự phân ly di truyền thường mẫn cảm hơn với các ảnh hưởng có hại đến gen, ví dụ như sự suy thoái do giao phối nội dòng, sự mất tính mềm dẻo tiến hóa (evolutionary flexibility) và sự suy thoái do giao phối xa. Những yếu tố nêu trên có thể góp phần làm giảm kích thước quần thể và tăng xác suất loài bị tuyệt chủng.
Suy thoái do giao phối nội dòng (inbreeding depression): có rất nhiều cơ chế khác nhau nhằm ngăn chặn sự giao phối nội dòng trong các quần thể tự nhiên. Trong các quần thể lớn của hầu hết các loài động vật, các cá thể thường không giao phối với các cá thể đồng huyết tộc gần mình. Các cá thể từ một quần thể thường phát tán ra khỏi nơi chúng được sinh ra, hoặc những mùi đặc trưng hay các tín hiệu khác đã ngăn trở việc giao phối nội dòng. Sự giao phối nội dòng, ví dụ giữa cha mẹ và con cái, cháu chắt hay sự tự thụ tinh ở các loài lưỡng tính thường sẽ gây nên sự suy thoái cận dòng được đặc trưng bởi việc ít con cái, hoặc con cái không khoẻ mạnh hay vô sinh.
Một cách lý giải hợp lý nhất cho sự suy thoái do giao phối nội dòng là nó cho phép biểu hiện những allen nguy hại được di truyền lại từ cha mẹ. Sự suy thoái do giao phối nội dòng nhiều khả năng sẽ là một vấn đề nghiêm trọng đối với những quần thể nhỏ được nuôi nhốt trong các vườn thú và các trại nhân giống, trong các phòng nuôi nhân tạo và cũng có thể là vấn đề đáng kể đối với một vài quần thể hoang dại.
Suy thoái do giao phối xa (outbreeding depression): trong tự nhiên, các cá thể thuộc các loài khác nhau hiếm khi giao phối với nhau bởi một loạt các cơ chế cách ly về tập tính, sinh lý và hình thái mà những cơ chế này đảm bảo cho sự giao phối chỉ xảy ra giữa các cá thể trong cùng một loài. Tuy nhiên, khi một loài trở nên hiếm hay nơi cư trú của nó bị hủy hoại thì sự giao phối xa - tức là giao phối khác loài (giao phối cưỡng ép giữa các loài khác nhau) - có thể xảy ra. Những cá thể không có khả năng tìm được những cá thể cùng loài để giao phối thì có thể giao phối với một loài họ hàng. Kết quả là con cái của chúng thường yếu hay bất thụ do thiếu sự tương đồng của các nhiễm sắc thể cũng như không có hệ enzym thích hợp được di truyền từ những cha mẹ khác loài. Hiện tượng đó được gọi là sự thoái hóa do giao phối xa. Những con lai này sẽ không bao giờ có được tổ hợp chính xác các gen đảm bảo cho các cá thể tồn tại trong những điều kiện nhất định. Sự suy thoái do giao phối xa cũng có thể là kết quả của sự giao phối giữa các loài phụ hay giữa các quần thể của cùng một loài.
Mất tính mềm dẻo tiến hóa: những allen hiếm và những tổ hợp allen bất thường tuy chưa thể hiện ngay những ưu điểm của mình song rất có thể lại vô cùng thích hợp trong những điều kiện môi trường trong tương lai. Sự suy thoái tính biến dị di truyền trong những quần thể cực nhỏ có thể sẽ hạn chế khả năng phản ứng của quần thể với những biến đổi dài hạn của môi trường như ô nhiễm, các dịch bệnh mới hay sự biến đổi khí hậu toàn cầu. Một khi không có đủ tính biến dị di truyền, các loài có thể bị tuyệt diệt.
Kích thước quần thể có hiệu quả (effective population size):
cần bao nhiêu cá thể để có thể duy trì được tính đa dạng sinh học trong một quần thể? Franklin (1980) cho rằng 50 cá thể có thể là số lượng tối thiểu cần thiết để duy trì tính biến dị di truyền. Công thức của Wright cho thấy rằng một quần thể có 50 cá thể chỉ mất đi khoảng 1% tính biến dị của nó trong mỗi thế hệ, vì thế nên sử dụng con số nêu trên là khá an toàn. Tuy nhiên, con số này có được là dựa trên kết quả nghiên cứu từ
các động vật nuôi nên việc áp dụng nó với các là hoang dã là không chắc chắn. Thông qua việc sử dụng các số liệu về tỷ lệ đột biến ở ruồi giấm Drosophila, Franklin dã gợi ý rằng, trong những quần thể có 500 cá thể, tỷ lệ biến dị di truyền mới hình thành do đột biến có thể bằng với tính biến dị di truyền bị mất đi bởi kích thước nhỏ của quần thể. Dải giá trị này được gọi là nguyên tắc 50/500, tức là các quần thể cách ly cần phải có ít nhất 50 cá thể và lý tưởng hơn là có 500 cá thể nhằm duy trì tính biến dị di truyền của quần thể đó.
Nguyên tắc 50/500 không dễ áp dụng trong thực tế vì với giả thiết rằng một quần thể là tập hợp của N cá thể trong đó tất cả các cá thể đều cùng có khả năng giao phối và sinh sản. Tuy nhiên, nhiều cá thể trong một quần thể lại không sinh sản được vì những lý do như tuổi tác, sức khoẻ yếu, vô sinh, suy dinh dưỡng, cơ thể nhỏ bé hoặc do các cấu trúc xã hội đã cản trở không cho một vài cá thể tìm ra “bạn đời” của mình. Do những yếu tố nêu trên nên kích thước quần thể có hiệu quả (Ne) của những cá thể trong độ tuổi sinh sản thường là nhỏ hơn kích thước thực của quần thể (actual population size). Vì tỷ lệ mất tính biến dị di truyền là dựa vào kích thước quần thể có hiệu quả nên sự suy thoái tính biến dị có thể rất trầm trọng ngay cả khi kích thước thực tế của quần thể là khá lớn. Một quần thể có kích thước hiệu quả nhỏ hơn kích thước thực tế có thể xuất hiện trong những điều kiện sau:
Tỷ lệ giới tính không tương xứng (unequal sex ratio): do ngẫu nhiên mà quần thể có thể có tỷ lệ không tương xứng giữa con đực và con cái. Ví dụ, nếu quần thể của các loài đơn giao (monogamous) như loài ngỗng gồm 20 con đực và 6 con cái thì chỉ có 12 cá thể sẽ tham gia vào họat động giao phối. Trong trường hợp này, kích thước quần thể có hiệu quả là 12 chứ không phải là 26. Ở những nhóm động vật tạp giao khác (polygamous), ví dụ như ở hải cẩu, một con đực có ưu thế có thể cai quản một số lượng lớn con cái và ngăn cản không cho các con đực khác giao phối với những con cái dưới quyền cai quản của nó. Ảnh hưởng của số lượng không tương xứng giữa con đực và con cái đến kích thước thực Ne có thể mô tả theo công thức:
Ne=
Trong đó Nm và Nf là số cá thể đực và cái trong quần thể. Khác với trường hợp một con đực và một con cái thành một cặp bạn đời vĩnh
viễn như ở loài ngỗng, ở đây các cá thể đực có thể tham gia giao phối với nhiều con cái, do vậy kích thước thực của quần thể có lớn hơn. Ví dụ, một quần thể hải cẩu có 6 con đực và 60 con cái có khả năng tham gia sinh sản, thì kích thước thực tế của quần thể trong trường hợp này là 22 theo công thức, chứ không phải là 12, như trường hợp ở ngỗng, cũng không phải là 60 dù rằng một con đực có thể giao phối với nhiều con cái. Theo qui luật, khi tỷ lệ giới tính của những cá thể trong độ tuổi sinh sản càng trở nên mất cân bằng thì tỷ lệ giữa kích thước quần thể có hiệu quả và tổng lượng cá thể (Ne/N) sẽ giảm xuống.
Sự biến động về sản phẩm sinh sản: ở nhiều loài, số lượng con non của từng cá thể thường có sự khác nhau đáng kể. Điều này càng đúng hơn với thực vật mà trong đó một số cây chỉ có thể sinh ra một vài hạt trong khi đó có những cây khác lại sinh ra hàng ngàn hạt. Việc sinh ra một số con cái không đồng đều trong quần thể sẽ dẫn đến sự suy giảm đáng kể của Ne do một số ít cá thể trong thế hệ hiện tại đã tạo nên sự không cân đối trong quỹ gen của thế hệ tiếp theo.
Những dao động bất thường và những cản trở quần thể: đối với một số loài, kích thước quần thể dao động đáng kể từ thế hệ này sang thế hệ khác, làm cho kích thước quần thể có hiệu quả sẽ dao động trong khoảng từ thấp nhất đến cao nhất. Như vậy chỉ cần một năm có sự suy giảm lớn về số lượng cá thể trong quần thể sẽ kéo theo sự giảm sút đáng kể của Ne. Nguyên tắc này kéo theo một hiện tượng gọi là cản trở quần thể, khi một quần thể bị giảm kích thước nghiêm trọng thì những allen hiếm trong quần thể sẽ bị mất đi nếu không có cá thể nào mang những allen này sống sót và sinh sản. Một loại cản trở đặc biệt thường gọi là hiệu ứng lập đàn (founder effect) sẽ xuất hiện khi một vài cá thể rời bỏ quần thể lớn để thành lập một quần thể mới. Quần thể mới này thường có ít tính biến dị di truyền so với quần thể lớn nguyên thủy.